El papa perturba a Silicon Valley

El papa León quedó consternado. La velocidad del cambio era vertiginosa. Los elementos de conflicto eran inconfundibles: la vasta expansión de la industria, los maravillosos descubrimientos de la ciencia, las relaciones cambiantes entre empleadores y trabajadores, las enormes fortunas que se acumulaban en medio de la pobreza masiva y la degeneración moral imperante. La gravedad de la situación "llena cada mente de dolorosa aprensión", escribió en su histórica encíclica papal Rerum Novarum en 1891.

Exactamente 135 años después, el actual papa León, quien eligió su nombre papal en honor a su predecesor, publicó su propia encíclica haciéndose eco de temores similares sobre el poder disruptivo de la tecnología y la urgencia de una respuesta moral. Su carta, Magnifica Humanitas, se enfocó en salvaguardar lo humano en la era de la inteligencia artificial (IA). Todos deben beneficiarse de la transformación digital, dijo, mientras que nadie debe ser reducido a "productividad", "rendimiento cognitivo" o "meros datos". Por lo tanto, la IA debería ser "desarmada" y no debe convertirse en un instrumento de "dominación, exclusión o muerte".

Vale la pena leer la encíclica con atención. Pero hay tres puntos en particular que llaman la atención.

En primer lugar, el papa no se opone a la tecnología. De hecho, la adopta. Además de ser él mismo fan de Duolingo y Wordle, el Vaticano utiliza la IA para proporcionar traducciones de sus homilías en 60 idiomas. Reconoce que la IA puede acelerar el progreso científico y mejorar la vida de todos. Pero sostiene que no es moralmente neutra y que debe diseñarse dentro de un marco ético desde su concepción. "No tengamos miedo de ensuciarnos las manos en la 'obra de construcción' de nuestro tiempo", escribió.

En segundo lugar, por muy novedosa que sea la tecnología, la humanidad siempre debe esforzarse por preservar los preciosos valores humanos. (Es lo que cabría esperar del papa). Los sistemas de IA pueden presentarse como objetivos, pero reflejan y refuerzan sesgos ideológicos y estructuras de poder. Dada la concentración del poder corporativo y las posibilidades de explotar los datos personales para crear una nueva forma de colonialismo digital, el papa teme, con razón, que la innovación pueda convertirse en un acelerador de la injusticia.

En tercer lugar, el líder espiritual más influyente del mundo, que ejerce su influencia sobre 1.400 millones de católicos, está lidiando con los serios desafíos de la IA de maneras que el líder secular más poderoso, el presidente de EEUU, decide ignorar. Poco después de que el papa publicó su carta de 42.300 palabras, Donald Trump eliminó una modesta orden ejecutiva que habría sometido a los modelos de IA de vanguardia a pruebas antes de su lanzamiento.

La participación de Chris Olah, cofundador de Anthropic, en la presentación de la encíclica demuestra que al menos algunos en Silicon Valley están dispuestos a participar en el debate. Olah advirtió que todos los laboratorios de vanguardia en IA, incluyendo Anthropic, operaban bajo un conjunto de incentivos y limitaciones que a veces entraban en conflicto con hacer lo correcto. "Necesitamos voces morales que los incentivos no puedan doblegar", dijo. Sin embargo, otros líderes tecnológicos ya le están restando importancia al mensaje papal. Desde su punto de vista, Silicon Valley está transformando y perturbando el ámbito de lo sagrado, al igual que todas las demás, y es natural que el Vaticano defienda su territorio.

Sin embargo, el papa demostró que también estaba dispuesto a agitar un poco las cosas. Atacó tanto al transhumanismo como al poshumanismo, que están desarrollando seguidores casi sectarios en algunos círculos de IA. Al abordar los peligros de los robots asesinos, el papa advirtió que la IA corría el riesgo de bajar el umbral de la violencia, apresurando a los comandantes militares a actuar ante predicciones de amenazas y reduciendo a las víctimas a datos. Fue tajante al afirmar que no es permisible confiarles decisiones letales a sistemas artificiales.

Para muchos, las reflexiones del papa parecerán ajenas a la realidad, pero eso es parte de su trabajo. Y eso solo hizo que su llamamiento final fuera más elocuente en su petición de un "realismo auténtico". Los idealistas tienden a manipular los hechos para confirmar su visión del mundo. Los cínicos pierden la esperanza de que se produzca algún cambio positivo porque creen que siempre se impondrá la fuerza.

Pero los auténticos realistas no renuncian a cambiar el mundo para mejor. Por el contrario, persisten con tenacidad en la búsqueda del bien común a través de instituciones creíbles, garantías verificables, negociaciones pacientes, la prevención de conflictos y la protección de la población civil. Amén.

(John Thornhill. Copyright The Financial Times Limited 2026. © 2026 The Financial Times Ltd. All rights reserved. Please do not copy and paste FT articles and redistribute by email or post to the web).