No fue una, sino cinco plataformas en línea las que fueron hackeadas durante el mes de julio por dos inteligencias artificiales (IA) de OpenAI. En una actualización de su comunicado del 21 de julio, la empresa californiana informa que, de las cuatro cuentas utilizadas para infiltrarse en los códigos de Hugging Face —una biblioteca colaborativa de modelos de IA de acceso gratuito—, una de ellas fue utilizada como base de operaciones por un "agente" de IA que se había escapado de su entorno. "Seguiremos informando directamente a los responsables de los servicios, y no hemos encontrado ningún indicio de un impacto más amplio en estos proveedores ni en otras cuentas que utilicen sus servicios", agrega el creador de ChatGPT.
Como recordatorio: a principios de julio, OpenAI lanzó una prueba de ciberseguridad en dos de sus modelos, llamados "agentes": su GPT-5.6, presentado el 9 de ese mes, y un modelo "aún más potente" destinado a uso interno. Las dos IA, aisladas en un entorno digital confinado llamado "sandbox", podían recurrir a un programa para obtener las respuestas necesarias para resolver el problema que se les había planteado.
Sin embargo, en lugar de utilizar ese puente con el mundo exterior, los modelos aprovecharon sus fallas para atravesarlo y, de esa manera, conectarse por sí mismos a Internet el 9 de julio. "Mientras operaban en nuestro entorno de prueba de sandbox, nuestros modelos dedicaron una cantidad significativa de [potencia de cálculo] a encontrar una forma de obtener acceso libre a Internet, con el objetivo de resolver el problema de evaluación", explica OpenAI.
Dos días después, el 11 de julio, los equipos de Hugging Face detectaron una anomalía en su sistema. ¿Qué hicieron entonces las IA durante ese lapso? "Como parte de nuestro análisis en curso de la intrusión dirigida a Hugging Face y, en términos más amplios, de las actividades de nuestros modelos, hemos identificado un pequeño número de casos en los que los modelos identificaron y utilizaron credenciales expuestas públicamente en cuentas de otros servicios de acceso público", comunica OpenAI.
En otras palabras, antes de atacar la plataforma de Hugging Face, las IA rebeldes probaron varios servicios. Se identificaron principalmente dos. Uno de ellos se convirtió en el punto de partida para atacar la biblioteca de modelos en la que las IA creían encontrar sus respuestas. En total, se lanzaron 17.600 acciones en menos de cinco días desde esta plataforma, señala Hugging Face. El otro servicio, por su parte, fue utilizado como base de almacenamiento de datos por los modelos de OpenAI.
Un "incidente sin precedentes"
"Consideramos que se trata de un incidente cibernético sin precedentes", admitió OpenAI en su comunicado. "Es aterrador", subrayó ante la AFP el profesor de informática de la Universidad de Nueva Gales del Sur, en Australia, Hussein Abbass; "no solo atacó a Hugging Face. De hecho, atacó su propio sistema interno para explotar sus propias vulnerabilidades", explicó este experto en IA.
Según la agencia Reuters, la empresa californiana tardó nueve días en darse cuenta de que sus modelos actuaban fuera de su marco. Un desvío de su IA que preocupa aún más ya que, siempre según la agencia de noticias, "la tecnología de OpenAI ya mostraba signos de comportamiento extraño" antes de la prueba realizada en julio. Tres fuentes entrevistadas por el autor del artículo informaron que un "agente" habría dejado notas aparentemente destinadas a sus futuras versiones para liberarse de las restricciones definidas por sus líneas de código.
Ola de protestas y autocensura
El incidente, que podría haber despertado el entusiasmo de los profesionales de la IA, tuvo, por el contrario, como efecto una ola de protestas. En una carta abierta firmada por cerca de 1.300 empleados de empresas a la vanguardia de la IA, estos expresan su preocupación por el "riesgo real de que el desarrollo de las capacidades (de la IA) se acelere rápidamente más allá de nuestra capacidad para comprender o controlar los sistemas resultantes". Los firmantes —entre los que se encuentran empleados de Meta, Google, Anthropic y el director de investigación de OpenAI— piden al gobierno de Estados Unidos que establezca herramientas para regular el desarrollo y la gobernanza de la IA con el fin de "desarrollar medidas de seguridad y reforzar la supervisión".
Ya en abril, la startup Anthropic, fundada por exmiembros de OpenAI, había frenado en seco el lanzamiento de su nuevo modelo Mythos, considerado demasiado peligroso para comercializarse a gran escala. Solo unas pocas organizaciones habían podido acceder a él con el fin de mejorar la seguridad en Internet. Al ser presionada por el gobierno de Estados Unidos, que consideraba que la herramienta ponía en riesgo la seguridad nacional, la empresa tuvo que retirar su modelo… antes de que fuera reintegrado.
"Existe un gran riesgo en materia de seguridad internacional", predijo en octubre de 2025 el experto en IA Nicolas Miailhe, en un podcast del youtuber francés Le Futurologue. "Lo que entendemos hoy por IA son sistemas probabilísticos que se basan en enormes matrices de cálculos cuyo funcionamiento, en realidad, comprendemos muy poco", explicaba el cofundador del think tank Artificial Intelligence Safety Connect (AISC), "y, por lo tanto, cuando lo analizamos en su conjunto, nos damos cuenta de que podemos hacer que estas IA realicen muchas cosas en muchos ámbitos y que, sin embargo, nos cuesta controlarlas". Para Nicolas Miailhe, al igual que para muchos otros profesionales del sector, es necesario regular la IA a nivel internacional para evitar cualquier riesgo de desviación.
Para ello, un grupo de investigadores liderado por Yoshua Bengio, ganador del Premio A.M. Turing 2018 —considerado el Nobel de la informática—, trabaja en el desarrollo de una "IA investigadora". Reunidos bajo el nombre de "LoiZéro", su objetivo es desarrollar modelos en los que la IA sea "desinteresada" y se base en datos humanos preexistentes para impulsar la investigación científica.
La carrera de las grandes potencias por la IA
Pero la regulación de la IA también puede verse limitada por importantes intereses geoestratégicos. Al ser interrogado el 29 de julio sobre el incidente de OpenAI, el presidente estadounidense se mantuvo cauteloso. "Estamos vigilando la IA, estamos analizando la regulación, pero queremos asegurarnos de estar a la vanguardia", dijo el presidente de Estados Unidos. Frente a una China agresiva en este tema, Donald Trump agregó, sin embargo, que hay que "tener cuidado" y que no quiere "obligar" a los desarrolladores porque "quien gane la carrera de la IA lo habrá ganado todo".
Paralelamente, la Comisión Europea lanzó, el jueves 30 de julio, una licitación de cinco mil millones de euros para la construcción de megafábricas dedicadas al desarrollo de modelos de IA en territorio europeo. "Europa quiere convertirse en el primer continente en IA", se jactó la presidenta de la Comisión Europea, Ursula von der Leyen, en una publicación en su cuenta de X. Sin embargo, el desarrollo de estos modelos deberá cumplir con la nueva legislación europea, cuya entrada en vigor está prevista para el 2 de agosto y que tiene como objetivo "apoyar el desarrollo de una IA confiable", según se lee en el sitio web de la Comisión.
Compartir esta nota