¿Se nos están yendo los frenos? (1 de 2)

Nunca tuvimos tanto poder para transformar el mundo —y transformarnos a nosotros mismos— ni tantas razones para preguntarnos si conservamos la capacidad de gobernarlo. Mientras aumenta nuestra capacidad para intervenir sobre la realidad, los mecanismos políticos, institucionales y morales llamados a contener sus riesgos parecen avanzar a otra velocidad.

No es lo mismo ni es igual. Pero algo inquietante atraviesa desafíos tan distintos. La inteligencia artificial promete transformaciones —y entraña amenazas— hasta hace poco impensables; las potencias modernizan sus arsenales nucleares y vuelven a prepararse para la guerra; y el cambio climático avanza galopante, más rápido que nuestra respuesta. Nos estamos quedando atrás. ¿Estamos simplemente ante los riesgos de una época convulsa o existen razones para algo más profundo: una cierta angustia existencial ante el rumbo incierto de la humanidad?

1. «No pare. ¡Siga! ¡Siga!»

Hace unos días, un artículo de Timothy Garton Ash publicado en El País me dejó dando vueltas a la pregunta de su propio título: «¿Nos encaminamos a un Hiroshima de la IA?». La referencia no es menor. Hiroshima marcó el momento en que la humanidad descubrió, de manera brutal, que su capacidad tecnológica había alcanzado el poder de destruirla. Con la inteligencia artificial, sostiene Garton Ash, podríamos aproximarnos a otro umbral, cuyas consecuencias todavía resulta difícil anticipar.

No se trata de ciencia ficción. Tampoco de asumir como certezas predicciones ampliamente discutidas. Pero algunas hipótesis manejadas por científicos y protagonistas del desarrollo de la IA sitúan en horizontes sorprendentemente cercanos sistemas capaces de intervenir crecientemente en el desarrollo de otros sistemas, automatizar tareas intelectuales complejas y, en los escenarios más extremos, iniciar procesos de automejora recurrente que imprimirían todavía mayor velocidad al cambio tecnológico.

Dos, cuatro, cinco años. ¿Pasado mañana?

Y ahí la pregunta comienza a ser otra, quizá más elemental: no tanto hasta dónde puede llegar la inteligencia artificial, sino si seremos capaces de gobernar aquello que estamos creando.

La inquietud, en realidad, es antiquísima. En el Génesis bíblico aparece ya aquella tentación formidable: «seréis como Dios, sabiendo el bien y el mal» (Gn 3, 5). Más que una condena del conocimiento, me interesa aquí lo que la imagen sugiere: la vieja fascinación humana por ensanchar los límites de su poder hasta rozar facultades que alguna vez reservó a los dioses.

Siglos después, Frankenstein, de Mary Shelley, nos dejó otra imagen: la criatura que termina desbordando a su creador. Cambian los relatos y cambian las tecnologías; persiste la pregunta sobre si el poder para crear viene acompañado de la lucidez y la sabiduría necesarias para gobernar lo creado.

Porque existe una trampa.

La carrera no ocurre en un laboratorio aislado. Se desarrolla bajo dos lógicas simultáneas de competencia: entre empresas y entre potencias. Para una compañía, reducir unilateralmente la velocidad puede significar que otra llegue primero; para un país, que su rival gane ventaja estratégica.

Un estribillo de reguetón de par de décadas atrás parece resumir bastante bien la lógica: «No pare. ¡Siga! ¡Siga!».

Y seguimos.

Más capacidad de cómputo. Modelos más poderosos. Más autonomía. Más inversión. Más competencia. Y también más desenfreno.

Sería absurdo desconocer la otra cara. La inteligencia artificial promete avances extraordinarios —que bienvenidos sean— en medicina, ciencia, productividad y conocimiento. El problema no está en el progreso, sino en la velocidad y en si conservamos la  capacidad para gobernar sus consecuencias. Mientras el acelerador tecnológico responde cada vez mejor, no está claro que los mecanismos destinados a contener sus riesgos avancen al mismo ritmo.

Los frenos no parecen responder igual.

2. Cuando quienes aceleran piden frenar

Pero algo está cambiando.

Ya no puede decirse sencillamente que nadie quiera frenar.

Dario Amodei, director ejecutivo de Anthropic, ha planteado medidas para ralentizar el desarrollo de los sistemas más avanzados. Sam Altman, de OpenAI; Elon Musk, de xAI, y Demis Hassabis, de Google DeepMind, han expresado, con diferencias entre ellos, coincidencias sobre la necesidad de introducir mayores controles. Javier Salas, al reseñar esta convergencia en El País, subraya precisamente lo inusual del acuerdo entre figuras que han protagonizado desde posiciones rivales la carrera de la inteligencia artificial.

«Frenar» no significa necesariamente detener.

Entre las propuestas aparecen auditorías externas de los modelos más avanzados, compromisos verificables de las compañías, espaciar los grandes saltos de capacidad para disponer de más tiempo para pruebas y mitigación de riesgos y, finalmente, intentar alcanzar algún grado de concertación internacional.

En otras palabras: algunos de quienes han impulsado la carrera comienzan ahora a reclamar mecanismos para contenerla.

¿Tranquilizador?

No necesariamente.

Lluís Bassets introduce, también desde El País, una cautela pertinente. Hay razones para no asumir sin examen el lenguaje apocalíptico de quienes han protagonizado la propia aceleración tecnológica. Sus advertencias pueden responder a preocupaciones genuinas y coexistir, al mismo tiempo, con intereses empresariales, disputas regulatorias, posiciones de mercado o cálculos geopolíticos. Que quienes contribuyeron a impulsar la carrera reclamen ahora participar en el diseño de las reglas destinadas a contenerla aconseja, como mínimo, cierta distancia crítica.

Esto es: ni asumir que la extinción está a la vuelta de la esquina porque algunos de los mayores protagonistas de la industria lo adviertan, ni desestimar el peligro simplemente porque quienes lo advierten tengan intereses en juego.

La incómoda posibilidad es que ambas cosas puedan ser ciertas al mismo tiempo: que exista un riesgo serio y que quienes lo describen no sean observadores neutrales.

Una cosa no quita la otra.

3. ¿Quién pisa el freno?

Pero aun concediendo todo eso permanece una dificultad más profunda.

Supongamos que los grandes desarrolladores concluyeran que conviene desacelerar. Supongamos incluso que sus gobiernos compartieran la preocupación.

¿Quién da el primer paso?

¿Quién acepta avanzar más despacio sin garantías de que sus competidores harán lo mismo?

Ahí la cuestión deja de ser solamente tecnológica. Se parece mucho a una vieja paradoja estudiada por la teoría de juegos: el dilema del prisionero. Dos actores, buscando racionalmente proteger cada uno su propio interés y sin poder confiar plenamente en lo que hará el otro, pueden terminar tomando decisiones que dejan a ambos peor que si hubieran cooperado.

Algo de esa lógica parece operar en la carrera de la inteligencia artificial. Una empresa puede considerar prudente desacelerar, pero teme que otra continúe avanzando. Estados Unidos puede advertir el riesgo y, al mismo tiempo, preguntarse qué hará China; China hará su propio cálculo sobre Estados Unidos. Lo que podría resultar prudente para todos puede parecer imprudente para cada uno por separado.

Y cuanto mayor sea la importancia económica, militar y estratégica atribuida a la inteligencia artificial, mayores serán los incentivos para seguir corriendo.

La paradoja es inquietante: podemos llegar a coincidir sobre el peligro y continuar, sin embargo, avanzando hacia él.

Precisamente para escapar de dilemas semejantes hay que hacer creíble la cooperación. De ahí la importancia de las auditorías, los compromisos verificables y los acuerdos internacionales propuestos para la inteligencia artificial.

Pero precisamente ahí aparece el problema que ya la desborda: una cosa es reconocer que necesitamos cooperar y otra conseguir que actores con intereses distintos confíen unos en otros y acepten reglas comunes.

Y eso exige algo bastante más antiguo que un algoritmo: capacidad política para actuar colectivamente.

Sin cooperación no hay freno.

Epílogo

Para enfrentar peligros que ningún país puede administrar por sí solo construimos tratados, organismos internacionales, mecanismos de supervisión, diplomacia y reglas compartidas. Son, con todas sus limitaciones, algunos de los frenos que inventamos.

La pregunta es cómo están funcionando.

La respuesta inquieta: el sistema de reglas e instituciones que construimos para contener nuestro propio poder está en franco deterioro, justo cuando más necesitamos que funcione.