Humanos no pueden ser pasajeros en el asiento trasero de la IAG

La sensación de inevitabilidad fatalista que rodea la evolución de esta tecnología está provocando algo parecido a la desesperación

¿Qué le sucederá a la humanidad si inventamos una inteligencia electrónica más inteligente que nosotros mismos?

Recientemente asistí a dos fascinantes eventos, aunque inquietantes, en los que se debatió nuestro futuro poshumano y en los que decenas de investigadores, académicos y filósofos altamente inteligentes, y expertos en inteligencia artificial (IA), analizaron cómo podría ser ese futuro. Su premisa es que, en unos pocos años, alcanzaremos la inteligencia artificial general (IAG), un punto en el que la tecnología igualará a los humanos en todas las tareas cognitivas.

En ese momento, sostiene Daniel Faggella, el investigador en IA que moderó ambos debates, el objetivo de la humanidad debería ser asegurarnos de crear un sucesor digno: «Una inteligencia poshumana tan capaz y moralmente valiosa que con gusto preferirías que fuera ella (y no la humanidad) la que determine el rumbo futuro de la vida misma».

Este tipo de comentarios se están volviendo cada vez más comunes en los círculos tecnológicos, a medida que los líderes de la industria se muestran cada vez más optimistas con respecto a cuándo podrían alcanzar la IAG. Una vez alcanzada, se argumenta, la IAG les permitiría a las máquinas crear máquinas aún más inteligentes, lo que conduciría a una superinteligencia poshumana aún más poderosa. A medida que estos debates sobre el futuro de la IA avanzan a toda velocidad, el público se esfuerza por mantenerse al día con el vertiginoso ritmo de los cambios y lidiar con el creciente impacto de la tecnología en sus propias vidas.

La semana pasada, Sir Demis Hassabis, cofundador del laboratorio de investigación en IA Google DeepMind, afirmó que hemos llegado a «un momento crucial en la historia de la humanidad». «Yo he trabajado toda mi vida para lograr la IAG y ahora, al igual que muchos de ustedes, siento que está al alcance de la mano», escribió en una nota dirigida a sus empleados, en la que explicaba su decisión de asumir la presidencia y enfocarse en esta tarea. Si se gestiona adecuadamente, la IAG marcaría el inicio de una «increíble nueva era de descubrimientos y maravillas».

En julio, Elon Musk, quien dirige la compañía de modelos de IA xAI (entre sus muchas otras entidades), también predijo que la IA podría superar la suma de la inteligencia humana en unos cinco años, conduciendo a una era de «asombrosa abundancia». Sin embargo, él no se retractó de su pronóstico anterior de que existía entre un 10 y un 20 por ciento de probabilidad de que una superinteligencia en forma de «robots asesinos» pudiera representar un riesgo existencial para la humanidad. A pesar de sus esfuerzos anteriores por frenar el ritmo del desarrollo de la IA debido a los riesgos, él ahora parece haber llegado a la conclusión de que es inútil siquiera intentarlo. «Simplemente parece que todos los caminos conducen a la aceleración de la IA», le declaró a The Economist. «Disfrutemos del viaje», agregó él.

Esta sensación de inevitabilidad fatalista con respecto a la evolución de la IA provoca algo parecido a la desesperación entre muchos otros investigadores y, al parecer, cada vez más entre el público en general. Las compañías tecnológicas están tomando cruciales decisiones sobre nuestro futuro colectivo basándose en narrativas especulativas, sin ningún tipo de mandato social. La creciente oposición pública —el llamado «techlash»— en contra de las compañías de IA es la consecuencia natural de esta incapacidad para abordar las preocupaciones actuales de la gente sobre el impacto de la tecnología, ya sea en sus empleos o en el medio ambiente.

El año pasado, los investigadores del Instituto AI Now, un centro de investigación independiente, publicaron una mordaz crítica sobre el mito que se había creado en torno a la IAG. Ellos argumentaron que el término estaba definido de manera tan imprecisa que casi carecía de sentido. La mayoría de los investigadores en IA no creían que la obsesión actual por ampliar los modelos de lenguaje a gran escala, como ChatGPT o Claude, nos fuera a llevar a la IAG. Y gran parte del revuelo en torno tanto a las promesas como a los peligros de la IAG, argumentaron los autores, no era más que una cínica estrategia de mercadotecnia para ayudar a las compañías tecnológicas a recaudar miles de millones de dólares en financiamiento.

El Instituto AI Now sin duda tiene razón al señalar que permitir que los líderes de los laboratorios de IA dominen el debate sobre el futuro de esta tecnología margina a los expertos de todas las demás disciplinas, quienes aportan conocimientos indispensables sobre cómo se puede aprovechar mejor en el mundo real. «Darle prioridad a la IAG frente a otras vías para resolver problemas complejos no es más que una forma extrema de tecnosolucionismo», concluyó el Instituto.

Como era de esperar, en su más reciente ensayo sobre la IA publicado esta semana, Mark Zuckerberg, el director ejecutivo de Meta, propuso una solución tecnológica al tecnosolucionismo. Sin embargo, aunque su planteamiento sea parcial y egoísta, tal vez no esté del todo equivocado.

Zuckerberg argumentó que la IA podría dotar a los individuos de extraordinarias capacidades tecnológicas, similares a una «superinteligencia personal». «La única manera de garantizar el apego a los valores humanos es dándoles más poder a las personas», escribió él.

Sin embargo, aunque es útil, el poder de la gente no puede ejercerse únicamente mediante el uso de innovadoras herramientas; debe abarcar la gobernanza de la tecnología misma. Las organizaciones de la sociedad civil, los políticos elegidos democráticamente, los sindicatos y los organismos reguladores también deben ejercer sus legítimos poderes sobre la forma en que se despliega la IA. Incluso los líderes de las compañías de IA ahora reconocen que deben colaborar más estrechamente con estas instituciones si no quieren perder la confianza de todos sus usuarios.

Los beneficios de la transformación impulsada por la IA bien podrían ser enormes, aunque en gran medida aún no se hayan comprobado. Pero, mientras tanto, el resto de la sociedad no puede seguir siendo pasajeros pasivos en el asiento trasero del coche de la IAG, como niños en un caluroso viaje de vacaciones, preguntando con frustración: ¿ya llegamos?

Las compañías de IA están decididas a conducir a la humanidad a un destino que no se ha discutido a fondo, y mucho menos acordado. Es hora de que el resto de nosotros tomemos más control sobre nuestro futuro humano.

John Thornhill.  Copyright The Financial Times Limited 2026.  © 2026 The Financial Times Ltd. All rights reserved. Please do not copy and paste FT articles and redistribute by email or post to the web.