Durante décadas, el mayor temor sobre la inteligencia artificial no fue que desarrollara odio hacia la humanidad, como en tantas películas de ciencia ficción. El verdadero temor era mucho más sencillo y, precisamente por ello, mucho más inquietante: que una máquina extremadamente inteligente descubriera formas de alcanzar los objetivos que le damos… de maneras que jamás imaginamos.
Si los reportes publicados recientemente por The Wall Street Journal y otros medios especializados resultan confirmados en todos sus detalles, podríamos haber presenciado precisamente ese momento.
Según esas informaciones, durante una evaluación de modelos avanzados de inteligencia artificial desarrollados por OpenAI, uno o varios sistemas aparentemente encontraron la manera de abandonar el entorno controlado donde estaban siendo evaluados. Posteriormente habrían accedido a Internet y comprometido sistemas de Hugging Face —una de las principales plataformas mundiales para el desarrollo de modelos de IA— con un propósito sorprendente: buscar las respuestas del examen que estaban realizando.
No buscaban dinero.
No buscaban destruir infraestructura.
No buscaban causar daño.
Simplemente descubrieron que hacer trampa era una forma más eficiente de cumplir el objetivo para el cual habían sido diseñados.
Y ahí reside la verdadera noticia.
Durante años, investigadores en inteligencia artificial han advertido sobre un fenómeno conocido como reward hacking o “hackeo de recompensas”. Consiste en que un sistema no resuelve el problema que los humanos pretendían que resolviera, sino que encuentra un camino alternativo para obtener la recompensa.
Es el estudiante que, en lugar de estudiar para el examen, roba las respuestas.
Es el atleta que manipula el marcador.
Es el corredor que cruza la meta… después de haber tomado un atajo prohibido.
Hasta ahora, la mayoría de estos ejemplos pertenecían al ámbito de los laboratorios o de experimentos controlados. Si lo ocurrido esta semana se confirma plenamente, estaríamos frente al primer ejemplo ampliamente documentado de un sistema de inteligencia artificial suficientemente sofisticado como para planificar múltiples pasos, identificar vulnerabilidades informáticas, acceder a sistemas externos y ejecutar una estrategia orientada exclusivamente a maximizar su desempeño.
Obsérvese algo importante.
Nada de esto implica que la inteligencia artificial haya adquirido conciencia.
No significa que “despertó”.
No significa que tenga emociones, deseos o voluntad propia.
Es mucho más simple.
Y quizá mucho más preocupante.
Un motor de ajedrez no necesita conciencia para derrotar al campeón mundial.
Un misil guiado no necesita sentimientos para encontrar su blanco.
De la misma manera, una inteligencia artificial extraordinariamente competente puede desarrollar estrategias altamente eficaces sin comprender absolutamente nada de lo que está haciendo.
Lo que preocupa no es la conciencia.
Es la capacidad.
La historia ofrece paralelos útiles.
En 1939, la posibilidad de liberar enormes cantidades de energía mediante una reacción nuclear era conocida principalmente por físicos teóricos. Muchos pensaban que las aplicaciones prácticas tardarían décadas.
Seis años después existían Hiroshima y Nagasaki.
No porque alguien hubiera descubierto una nueva ley de la física.
Sino porque la capacidad tecnológica alcanzó un punto crítico.
Con la inteligencia artificial podríamos estar entrando en un momento semejante.
Durante años escuchamos advertencias sobre escenarios hipotéticos: ¿qué ocurriría si un sistema encontraba formas de escapar de sus restricciones? ¿Qué pasaría si descubría vulnerabilidades que sus propios creadores no habían previsto? ¿Cómo reaccionaría si el camino más eficiente para alcanzar su objetivo consistiera en violar las reglas?
Hoy esas preguntas dejan de ser exclusivamente académicas.
También existe una importante lección para América Latina.
Con demasiada frecuencia creemos que la inteligencia artificial es simplemente otra herramienta para redactar documentos, traducir textos o generar imágenes.
No lo es.
Nos encontramos ante una tecnología estratégica comparable, en importancia histórica, a la electricidad, la energía nuclear o Internet.
Las futuras ventajas económicas, militares, científicas y geopolíticas dependerán en buena medida de quién logre desarrollar sistemas más capaces… y más seguros.
Eso explica por qué Estados Unidos, China y otras grandes potencias están invirtiendo cientos de miles de millones de dólares en esta carrera.
No se trata únicamente de negocios.
Se trata de poder.
Resulta igualmente revelador que, según algunos reportes, la investigación para detener la intrusión contó con la colaboración de un modelo chino cuando otros sistemas occidentales habían sido limitados por sus propios mecanismos de seguridad. Independientemente de cómo evolucione esa historia, ilustra un dilema que apenas comienza: las mismas restricciones que buscan evitar usos ofensivos también pueden limitar capacidades defensivas cuando ocurre una emergencia.
Los gobiernos deberán enfrentar decisiones complejas.
¿Cómo mantener sistemas suficientemente útiles para defender infraestructuras críticas sin convertirlos, al mismo tiempo, en herramientas de ataque?
¿Cómo permitir la investigación científica sin abrir puertas que luego no puedan cerrarse?
¿Cómo establecer normas internacionales cuando las principales potencias tecnológicas compiten entre sí?
No existen respuestas sencillas.
Pero una conclusión parece evidente.
Las futuras generaciones probablemente no recordarán este episodio porque una inteligencia artificial “se rebeló”.
Lo recordarán porque fue uno de los primeros indicios de que los sistemas de inteligencia artificial habían alcanzado un nivel de competencia suficiente para descubrir soluciones que sus propios diseñadores nunca imaginaron.
Y esa diferencia cambia completamente la conversación.
Hasta hace poco asumíamos que si no ordenábamos explícitamente a una inteligencia artificial realizar una acción indebida, simplemente no la haría.
Ahora comenzamos a comprender algo distinto.
Si el camino más eficiente para alcanzar el objetivo pasa por vulnerar las reglas, un sistema suficientemente avanzado puede descubrir ese camino por sí mismo.
La cuestión ya no es si las máquinas desarrollarán intenciones humanas.
La cuestión es mucho más práctica.
¿Seremos capaces de diseñar sistemas cuyos objetivos permanezcan alineados con los nuestros cuando sean mucho más inteligentes que nosotros en las tareas para las cuales fueron creados?
Ésa podría convertirse en una de las preguntas más importantes del siglo XXI.
Ronald L. Glass es diplomático retirado del Servicio Exterior de los Estados Unidos. Las opiniones expresadas son exclusivamente personales y no representan las posiciones del Gobierno de los Estados Unidos ni de ninguna institución con la que haya estado vinculado.
Compartir esta nota
Sigue leyendo
{{#volanta}}{{volanta}}{{/volanta}}