A lo largo de los siglos, la humanidad ha enfrentado diferentes desafíos, fruto de su desconocimiento, en un momento determinado, de las causas y las raíces de los fenómenos económicos, científicos, políticos y sociales que se suceden.
Estos cambios han sido paradigmáticos, incomprendidos, han atormentado a la humanidad, sin explicación científica de los fenómenos que arropan su propia existencia. En este ámbito, la institución surgida hace miles de años como la Iglesia católica, a través de los diferentes papados, ha tratado de explicar estos fenómenos desde la fe religiosa, desde la propia existencia de la humanidad, así como de los fenómenos que le han acompañado. Un ejemplo de esto son las encíclicas papales.
Las encíclicas como respuesta de la Iglesia católica a transformaciones sociales y tecnológicas (ej.: Rerum Novarum, Pacem in Terris, Evangelium Vitae). Comparación con encíclicas sociales clásicas: continuidad y novedad en el tratamiento de riesgos tecnopolíticos.
La encíclica Magnifica Humanitas (25 de mayo, papa León XIV) aborda la irrupción de la inteligencia artificial (IA) como nuevo ambiente sociotécnico y plantea un desafío moral y político a la humanidad.
Este artículo reconstruye y analiza los principales argumentos de la encíclica: la naturaleza y limitaciones de la IA, la tecnicidad no neutral, los riesgos de nuevas formas de esclavitud y colonialismo de datos, la crítica a la ideología meritocrática, la necesidad de una cultura ética y la defensa de la dignidad humana. Se discute además la propuesta papal de "desarmar" la IA más allá de su regulación, y las implicaciones sobre armas autónomas y la política internacional.
Al analizar objetivamente las ideas centrales de la encíclica Magnifica Humanitas respecto a la IA y su impacto en la dignidad humana y la convivencia social, el análisis textual de la encíclica y la revisión comparativa con encíclicas sociales previas y literatura contemporánea sobre ética de la IA resultan indispensables.
¿Qué es una encíclica?
La encíclica son cartas oficiales escritas por los papas para orientar a la Iglesia y al mundo sobre temas de fe, justicia, sociedad y dignidad. A través de la historia de los pontífices, han utilizado estas cartas para responder a los grandes desafíos de la época en las cuales les tocó vivir y pastorear.
Hoy, en una época de resurgimiento de los autoritarismos, el desinterés por la verdad y la crítica reflexiva plantean retos sumamente importantes para la convivencia humana. Así lo ha planteado el papa León XIV al citar a la filósofa Hannah Arendt cuando dice: "El desinterés por la verdad conduce lenta pero inexorablemente hacia el totalitarismo, para el cual, como escribió la filósofa Hannah Arendt, los súbditos ideales no son tanto aquellos ideológicamente convencidos, sino «las personas para quienes ya no existe la distinción entre el hecho y la ficción (es decir, la realidad de la experiencia) y la distinción entre lo verdadero y lo falso (es decir, las normas del pensamiento)»". (E. M.H.)
La inteligencia artificial: definiciones operativas y límites epistémicos
En el marco conceptual, la inteligencia artificial no tiene experiencia, conciencia ni moral, y la distinción entre simulación de comprensión y comprensión real es fundamental. No vive experiencia ni tiene cuerpo; no posee conciencia moral ni responsabilidad.
La IA como ambiente sociotécnico y poder político
La IA ya es un entorno en el que estamos inmersos y un poder que obliga a respuestas colectivas. En Magnifica Humanitas, el papa dice: no basta regularla, es necesario "desarmarla". Interpretación crítica: diferenciar entre desarme normativo, técnico y sociopolítico. (E. M.H.)
Las IA actuales se desarrollan más "cultivadas" que "construidas": arquitecturas de aprendizaje cuyo funcionamiento interno aún resulta en gran medida desconocido, con implicaciones para la responsabilidad epistemológica y ética. Son armas autónomas y deslegitimación de la guerra algorítmica. Dice el papa: no es lícito delegar decisiones letales a sistemas artificiales; ningún algoritmo hace moral la guerra. Es necesario impulsar la prohibición o fuertes restricciones a armas autónomas, combinadas con iniciativas de desarme verbal y práctico.
La técnica como reflejo de valores y asimetrías de poder
La técnica refleja valores y asimetrías de poder: financiación, diseño, regulación y uso imprimen sesgos. El riesgo de una "moralidad decidida por unos pocos": concentración de poder en empresas y Estados. (E. M.H.) La encíclica critica la ideología meritocrática al decir: la meritocracia como legitimadora de desigualdades, al valorar a las personas por productividad y eficiencia. La IA hace una reducción de la persona a recurso y un reforzamiento de exclusiones sociales. La encíclica hace un llamado a repensar indicadores de desarrollo (más allá del PIB).
Nuevas formas de esclavitud y colonialismo de datos
La dureza de esta encíclica cala hasta expresar que estamos en presencia de nuevas formas de esclavitud y colonialismo de datos, entendido esto como: "apropiación de datos sanitarios, genéticos y demográficos como recursos de poder". Las consecuencias sociales y éticas: vulneración de derechos y reproducción de dependencias geopolíticas. Unas prácticas de etiquetado de datos, moderación de contenidos, extracción de tierras raras con trabajo infantil, trata gestionada por circuitos digitales.
La cultura como memoria de los pueblos
El papa llama a la preservación de la cultura como la memoria de los pueblos. La cultura como vacuna contra la normalización del mal; ejemplos: la Novena de Beethoven, el Guernica, La lista de Schindler. (E. M.H.) Como manifestaciones de la universalidad humana, con la exposición intrínseca de cada uno de sus valores. —He que los hombres volveremos a ser hermanos—.
Primeras conclusiones
A manera de unas primeras conclusiones, la encíclica aporta un marco ético-religioso relevante para el debate público sobre IA, subrayando límites antropológicos y políticos que la regulación técnica por sí sola no resuelve.
El llamado al "desarme" exige políticas multidimensionales: regulación, límites tecnológicos, educación cultural y cooperación internacional. Es necesario promover marcos de gobernabilidad inclusivos que integren evaluación ética anticipatoria, transparencia algorítmica, protección de datos y prohibiciones específicas (armas autónomas, prácticas extractivas injustas).
Esta encíclica se proyecta en igual nivel que las anteriores encíclicas sociales de la Iglesia, como De las cosas nuevas o Paz en la Tierra, cuando la humanidad estuvo al borde de una verdadera catástrofe nuclear, pero hoy con un desafío superior: desafiar la IA como parte de una herramienta que pretende sustituir al hombre, su dignidad, amor, solidaridad, su empatía con su propia existencia y sus propias razones de ser.
Compartir esta nota