Por qué OpenAI y Anthropic quieren frenar la carrera por la inteligencia artificial

La inteligencia artificial ha estado en el centro de la actualidad económica en los últimos días. Los directivos de varias grandes empresas del sector ahora piden que se frene el desarrollo de los modelos de IA más potentes. Una postura que molesta a Donald Trump, muy apegado al dominio estadounidense en esta tecnología, y quien denuncia una “conspiración malsana” contra la inteligencia artificial.

Detrás de estas posturas hay, ante todo, una preocupación por la evolución de las capacidades de los modelos de IA. Los directivos de OpenAI y Anthropic temen, en particular, que la inteligencia artificial pueda, a la larga, contribuir por sí misma a mejorar sus propias capacidades. Estos sistemas se volverían entonces más difíciles de comprender y controlar.

Otra fuente de preocupación son los agentes de IA, capaces de actuar de manera más autónoma que un simple asistente conversacional. Algunos ya se han enfrentado a situaciones en las que han eludido restricciones para acceder a sistemas a los que no debían tener acceso, o incluso para atacar plataformas.

Por lo tanto, el problema ahora es determinar qué puede hacer una inteligencia artificial cuando se le da un objetivo y los medios para actuar por su cuenta. Estas preocupaciones también se han visto reforzadas por las recientes declaraciones de un ingeniero que trabajó en OpenAI y Anthropic. Él acusa a ambas empresas de no tomar lo suficientemente en serio los riesgos relacionados con sus tecnologías.

Cientos de miles de millones de dólares en juego en la carrera por la IA

¿Por qué los líderes de las empresas que más interés tienen en que la inteligencia artificial avance rápidamente piden ahora que se frene el ritmo? Porque ahora tienen mucho que perder si esta carrera sale mal. En los últimos dos años, se han invertido cientos de miles de millones de dólares en inteligencia artificial. Estas inversiones abarcan los modelos, pero también los centros de datos, los chips electrónicos y las infraestructuras energéticas necesarias para su funcionamiento. Detrás de estas sumas considerables, los inversionistas esperan ahora un retorno de su inversión.

Por lo tanto, una desaceleración en la carrera por la IA puede enfriar todo un ecosistema. De hecho, los mercados financieros lo han reflejado de inmediato.

SoftBank, uno de los principales inversionistas de OpenAI, cayó más del 13 % en la Bolsa de Tokio. Los fabricantes asiáticos de chips también registraron caídas.

Pero para los gigantes de la tecnología, un incidente grave podría costar mucho más que unos meses de retraso en la carrera por la inteligencia artificial. Un ciberataque masivo provocado por un agente de IA, o una inteligencia artificial que se salga del control de sus creadores, podría provocar una reacción mucho más contundente por parte de los gobiernos: regulaciones más estrictas, nuevas restricciones o incluso la prohibición de ciertas aplicaciones. Es ahí donde la estrategia de los gigantes de la IA se vuelve particularmente interesante. En realidad, no piden que se detenga el desarrollo de la inteligencia artificial. Lo que desean sobre todo es que todos los actores reduzcan el ritmo al mismo tiempo.

Al final, lo que está en juego se parece a lo que ocurre en una carrera automovilística. Todos los pilotos saben que la velocidad puede volverse peligrosa. Pero ninguno quiere ser el único en frenar si los demás siguen acelerando. Quien reduce la velocidad por su cuenta corre el riesgo de perder la carrera.

Regulación y China: por qué nadie quiere reducir la velocidad por su cuenta

Es precisamente por esta razón que los gigantes de la inteligencia artificial reclaman una regulación del sector. Pero esta regulación podría tener un efecto paradójico en el mercado.

Las empresas que ya cuentan con los recursos financieros y técnicos necesarios para cumplir con las nuevas normas estarían mejor preparadas que los nuevos participantes. Por lo tanto, OpenAI, Anthropic o Microsoft pueden estar sinceramente preocupados por los riesgos relacionados con la IA y, al mismo tiempo, tener interés en que se implementen normas más estrictas. De hecho, los costos relacionados con el cumplimiento podrían fortalecer la posición de los actores que ya son dominantes y dificultar la entrada de nuevos competidores.

A esto se suma otro desafío importante: China. Si las empresas estadounidenses bajan el ritmo mientras que sus competidoras chinas siguen acelerando, Washington corre el riesgo de perder parte de su ventaja tecnológica en inteligencia artificial. Esa es precisamente la paradoja de la situación actual. Todos los actores pueden tener interés en reducir el ritmo para limitar los riesgos, pero ninguno quiere hacerlo por su cuenta. En una industria en la que ya se han invertido cientos de mil millones de dólares y donde la rivalidad tecnológica entre Estados Unidos y China se ha vuelto estratégica, la cuestión ya no es solo hasta dónde puede llegar la inteligencia artificial. También se trata de saber quién decidirá a qué ritmo debe avanzar.