Cada semana llega un nuevo anuncio de que se incorporará inteligencia artificial a la educación, en la salud, en la seguridad ciudadana, en la administración pública. El tono es siempre el mismo: la IA como panacea, como el atajo que por fin nos hará eficientes, modernos, competitivos. Casi nunca se escucha la pregunta que debería acompañar cada uno de esos anuncios: ¿con qué idea de ser humano estamos diseñando todo esto? Para responderla, propongo un recorrido breve, casi una línea de tiempo, que va de una serie de televisión a una encíclica papal, pasando por un historiador israelí y por los propios ingenieros que construyen estas máquinas.
Hace cuatro años tomé la decisión de renunciar a las series de televisión mientras no termine la universidad, justamente, al reanudar el pasatiempo, me encontré con una serie de Jonathan Nolan: “Vigilados”. Un multimillonario crea un programa capaz de predecir quién cometerá un crimen antes de que ocurra. La serie no se queda en la persecución policial; abre preguntas sobre vigilancia masiva, privacidad y, sobre todo, sobre qué pasa cuando dejamos de controlar por completo IAs que hemos creado. En 2011 sonaba a ciencia ficción. Hoy, con cámaras de reconocimiento facial en nuestras calles y algoritmos que deciden a quién se le aprueba un préstamo, suena a crónica.
En el año 2024, el historiador Yuval Noah Harari, en su libro “Nexus”, ofrece la clave conceptual que la serie apenas intuía. Todos los inventos anteriores, dice, fueron herramientas: la bomba nuclear destruye, pero no decide cuándo hacerlo; la imprenta difunde ideas, pero no las inventa. La inteligencia artificial, en cambio, empieza a comportarse como agente: toma decisiones, genera contenido y actúa con cierto grado de autonomía. Ese salto de herramienta a agente es, para Harari, la verdadera ruptura histórica. No es una revolución tecnológica más; es la primera vez que creamos un sistema capaz de producir información y decisiones por sí mismo.
El 15 de mayo de este año, en el aniversario 135 de la “Rerum Novarum” de León XIII, el papa León XIV firmó su primera encíclica: “Magnifica Humanitas”, sobre la custodia de la persona humana en el tiempo de la inteligencia artificial. La presentó él mismo en el Vaticano, algo inusual, señal de la urgencia que le atribuye. Su tesis central puede resumirse en una frase: la IA puede ser extraordinariamente poderosa, pero no es inteligencia humana y nunca debe desplazar a la persona del centro.
De ahí se desprenden ideas que deberían ser lectura obligatoria para cualquier Estado antes de firmar un contrato de “modernización tecnológica”: la IA supera al ser humano en velocidad de cálculo, pero carece de experiencia vivida, cuerpo, conciencia moral, amor y responsabilidad. El peligro mayor no es que la máquina se equivoque, sino que le deleguemos nuestro propio juicio y con ello se debilite nuestra capacidad de pensar y decidir por nosotros mismos.
La tecnología no es neutral, porque cada sistema incorpora decisiones sobre qué medir, qué ignorar y qué optimizar, y detrás de esas decisiones hay siempre una idea de persona; y la responsabilidad, pase lo que pase, sigue siendo humana. El papa exige poder identificarse quién diseñó, programó, autorizó o se benefició de un sistema. La pregunta que se propone no es únicamente ¿para qué usamos la IA?, sino ¿cómo está diseñada y qué concepción de sociedad lleva dentro?
Cuando los propios constructores dudan; septiembre de 2026
Y aquí llega lo más inquietante de esta línea de tiempo, porque ya no habla la ficción, ni la filosofía, ni la teología, sino la propia industria. El 8 de septiembre, Jacob Coxon, un joven investigador británico que trabajó tanto en OpenAI como en Anthropic, renunció públicamente advirtiendo que ninguna de las dos empresas actúa con responsabilidad frente al desarrollo de sistemas capaces de mejorarse a sí mismos, y que dentro de esos laboratorios hay quienes temen, en serio, que una IA suficientemente avanzada represente un riesgo existencial antes de que termine la década.
No fue un exabrupto aislado: un investigador de Anthropic, Evan Hubinger, respondió que Coxon tenía razón en lo esencial. Días después, el director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo titulado “Debemos moderar el ritmo de la frontera”, pidiendo a las empresas líderes que desaceleren voluntariamente el desarrollo de sus modelos más avanzados. El mismo día, Demis Hassabis, jefe de Google DeepMind, respaldó públicamente la idea y la conectó con una propuesta previa de crear un organismo regulador técnico para la IA de frontera. Elon Musk, que desde 2017 pide regulación preventiva, se sumó también al llamado. No estamos hablando de activistas externos ni de profesores universitarios alarmistas: son las personas que construyen estas tecnologías las que están pidiendo que alguien, desde afuera, las frene un poco.
Si uno pone estos cuatro momentos en fila, aparece un patrón que va de la intuición a la certeza. En 2011 nos preguntábamos si una máquina podría vigilarnos; en 2024, si podría empezar a decidir por su cuenta; en 2026, la Iglesia nos recuerda por qué eso nunca debe significar que dejemos de ser nosotros quienes decidimos; y ese mismo año, casi al mismo tiempo, los propios ingenieros admiten en público que tienen miedo de lo que están soltando al mundo.
Bueno, lo cierto es que en medio de todo esto, se sigue discutiendo la inteligencia artificial casi exclusivamente en clave de eficiencia: cuántos trámites se agilizan, cuántas cámaras se instalan, cuántos empleos se automatizan, cuánto dinero se ahorra. Son preguntas legítimas, pero incompletas. Faltan las que el papa León XIV pone como sombra sobre todo lo demás: ¿quién responde si el sistema se equivoca y perjudica a un ciudadano? ¿qué idea de persona dominicana está codificada en un algoritmo entrenado, casi siempre, con datos y criterios que no son los nuestros? ¿estamos fortaleciendo el juicio y la creatividad de la gente, o estamos enseñándola a delegarlo todo en una pantalla?
No se trata de rechazar la tecnología; ni el Papa ni Harari ni el propio Coxon lo piden. Se trata de recuperar algo muy humano: la costumbre de preguntar antes de aplaudir. Ninguna medida de gobierno sobre inteligencia artificial debería aprobarse sin que alguien se haga, en voz alta, la pregunta que la encíclica pone en el centro: ¿esto sirve para que la persona humana crezca, o para que se vuelva prescindible? Mientras esa pregunta no forme parte del debate público, seguiremos tratando la IA como panacea, y las panaceas, tarde o temprano, siempre decepcionan.
Compartir esta nota