Ética, cultura y tecnología: el factor ignorado.
En una analogía —una ficción para describir la fábrica de leyes— primero llegan los insumos: la realidad social, donde los problemas se hacen visibles. Luego entran a la fundición, donde la lógica jurídica busca coherencia y claridad. Después pasan por la estación de pintura, donde la moral prevaleciente imprime valores. Al final, el control de calidad: la ética, que valida si la pieza puede llamarse “justicia”.
En cada estación hay un determinante silencioso: la mentalidad. Y la mentalidad no aparece sola; se forma en lo individual, se estabiliza en lo colectivo, y se vuelve práctica. La cultura es esa mentalidad puesta en operación. En ese sentido, la gobernanza no es un documento: es un producto cultural. Y si esto es cierto, entonces la pregunta no es solo qué reglas tenemos, sino qué cultura es capaz de producirlas… y sostenerlas.
¿Qué sucede cuando entra la tecnología, y en particular la más reciente? En teoría, legislar implicaría entender el problema primero. Pero aquí el problema cambia mientras intentamos describirlo. ¿Hemos entendido lo que ya representa hoy, y sobre todo lo que puede representar en un futuro cercano? ¿Qué se ha atendido realmente y qué se ha pospuesto por conveniencia, por desconocimiento o por fatiga? ¿Qué moral ha prevalecido en la construcción de las reglas, y qué tipo de estructura de gobernanza se está formando a partir de esa cultura?
Los síntomas ya están sobre la mesa: desinformación y polarización como entorno; fraudes y suplantación como economía; opacidad de sistemas y decisiones automatizadas como nueva normalidad; ataques a infraestructura como presión constante. A esto se suma la disrupción silenciosa: desplazamientos graduales del ser humano en el empleo, en la toma de decisiones, en el aprendizaje y, eventualmente, en el pensamiento. La velocidad tecnológica no solo compite con la velocidad de la ley; compite con la evolución moral que haría posible ejercer esa gobernanza con legitimidad.
Por eso el factor ignorado no es únicamente la tecnología, sino la cultura requerida para gobernarla. Y aunque existen avances, la forma en que esa gobernanza se imagina —y se ejerce— todavía parece un esbozo.
Aquí conviene detenerse cuando: el debate público se reduce a bandos y no a criterios; la regulación se vuelve simbólica y no verificable; la “supervisión” existe en el papel pero no en la práctica; y la sociedad delega el juicio en sistemas que ni comprende ni puede cuestionar.
Referencias:
European Parliament (13-03-24). Artificial Intelligence Act (12-Feb-26). https://artificialintelligenceact.eu/wp-content/uploads/2024/04/TA-9-2024-0138_EN.pdf
OECD (2-03-20) What are the OECD Principles on AI? (12-Feb-26). https://www.oecd.org/content/dam/oecd/en/publications/reports/2019/06/what-are-the-oecd-principles-on-ai_f5a9a903/6ff2a1c4-en.pdf
OECD (2-03-20) OECD Trustworthy AI in Education (12-Feb-26). https://www.oecd.org/content/dam/oecd/en/publications/reports/2020/04/trustworthy-artificial-intelligence-ai-in-education_f1a7c415/a6c90fa9-en.pdf
National Institute of Standards and Technology (01-23) Artificial Intelligence Risk Management Framework (AI RMF 1.0) (12-Feb-26). https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf
UNESCO. (23-Nov-21) UNESCO Recommendation on the Ethics of Artificial Intelligence (12-Feb-26). https://www.ohchr.org/sites/default/files/2022-03/UNESCO.pdf
UNESCO. (6-Feb-24) Commitment of Private Sector Companies to collaborate with UNESCO to build an ethical and responsible Artificial Intelligence (12-Feb-26). https://www.unesco.org/sites/default/files/medias/fichiers/2024/02/gfeai_private_sector_05022024.pdf
