Dario Amodei, líder de Anthropic: 'No quiero que la IA se utilice en contra de nuestra propia gente'

El presidente de EE. UU., Donald Trump, ha tildado al director ejecutivo de Anthropic y a los demás fundadores de su compañía de inteligencia artificial (IA) de "locos radicales de izquierda". ¿Cuál fue la ofensa de Amodei? Atreverse a decir que el Pentágono no debería utilizar los servicios de Anthropic para la vigilancia masiva a nivel doméstico ni para armas totalmente autónomas.

El influyente analista tecnológico Ben Thompson también ha criticado a Amodei por dar la voz de alarma sobre los riesgos de la IA, lo que describe como "pornografía del desastre como herramienta de marketing". Aun así, Thompson acaba de coronar a Anthropic como el actual líder en la carrera de la IA por desarrollar herramientas de codificación tremendamente populares y lanzar el poderoso modelo Claude Mythos (del que hablaremos más adelante).

Pero el veterano inversor de Silicon Valley, sir Michael Moritz, se muestra mucho más entusiasta. "Creo que es un hombre extraordinario, auténtico", me dice. "Es un tecnólogo muy profundo. Ha tomado grandes decisiones estratégicas".

Con opiniones tan dispares, siento aún más curiosidad por conocer al que fuera investigador en biología computacional y que ahora dirige una de las compañías de más rápido crecimiento de la historia. Anthropic acaba de recaudar 30 000 millones de dólares con una valoración de 380 000 millones y, según se informa, se encamina hacia una gigantesca salida a bolsa a finales de este año.

Tal es su entusiasmo por el potencial de la IA que Amodei imagina el día en que Anthropic dirija "un país de genios en un centro de datos", lo cual tendrá enormes consecuencias para nuestras vidas. A pesar de los rumores de que la burbuja de la IA está a punto de estallar y de que la tecnología está alcanzando un techo increíblemente caro, Amodei está convencido de que la expansión del "Gran Bloque de Cómputo", como él la llama, aún tiene un largo camino por recorrer.

"El arcoíris no tiene final. Solo existe el arcoíris. No vemos nada que lo frene", dice. "Soy el primero en decir que va a transformar completamente el mundo y que estamos subestimando su importancia".

Amodei ha escogido reunirse para almorzar en el restaurante Cotogna, en el histórico distrito de Jackson Square, en su ciudad natal, San Francisco. Al llegar temprano, observo los coches blancos sin conductor de Waymo que circulan silenciosamente por Pacific Avenue, un vistazo al futuro impulsado por la IA que se nos viene encima.

Amodei llega pronto, vestido con una camiseta blanca y un suéter azul. Con su cabello rizado, sus lentes de armazón azul y su actitud intensa, este emprendedor tecnológico de 43 años sigue dando la impresión de ser el mismo investigador académico nerd que era al inicio de su carrera.

Empezamos a hablar de cómo fue para Amodei crecer en el distrito Mission de la ciudad durante el primer auge de internet. Sorprendentemente, dice que no le prestó mucha atención. "A pesar de crecer aquí y ver, ya sabes, a Google y Yahoo, en realidad nunca me interesó mucho", dice.

En aquella época, su pasión era la física, que estudió en la Universidad de Stanford, antes de cursar un doctorado en biofísica y neurociencia computacional en Princeton. "Quería trabajar en problemas realmente difíciles. Quería comprender el mundo y el universo", dice. "Me imaginaba como profesor".

En su juventud, Amodei cuenta que él y su hermana Daniela, cuatro años menor que él, solían soñar con hacer algo bueno por el mundo juntos, como hacen muchos niños. Pero incluso él admite que le sorprende que haya resultado así en la vida real: Daniela se unió a su hermano para fundar Anthropic como una corporación de beneficio público junto con los demás fundadores en 2021. Todos se han comprometido a donar algún día el 80 por ciento de su patrimonio, pero aún están trabajando en el mecanismo para hacerlo.

Le da crédito a Daniela por ayudar a infundir una confianza y lealtad increíbles en el equipo de Anthropic. Mientras que la mayoría de las empresas startup se caracterizan por una alta rotación de personal, el equipo central de Anthropic se ha mantenido notablemente estable, ya que los 17 empleados más antiguos aún se mantienen en la empresa. Su buena relación se refleja en un vídeo de debate entre los siete fundadores, que vi antes de nuestro almuerzo. Uno de los fundadores admite, algo avergonzado, que nunca quiso fundar una compañía, pero que sintió que era su "deber" garantizar que la IA se desarrollara de forma segura. "Esa es también mi actitud", me dice Amodei.

Amodei cuenta que su interés por la IA surgió tras leer La singularidad está cerca, del futurista Ray Kurzweil. Dice que no avalaría el libro en su totalidad porque contiene algunas ideas "descabelladas" y "de ciencia ficción", pero reconoce el mérito de Kurzweil por su idea central de que el aumento exponencial de la potencia computacional acabaría conduciendo a una IA de nivel humano. "Esa era mi inspiración allá por 2005″, dice.

Mientras trabajaba como investigador posdoctoral en la Facultad de Medicina de la Universidad de Stanford, luchando por encontrar biomarcadores para el cáncer, Amodei se dio cuenta cada vez más de cómo la IA podía utilizarse como una herramienta poderosa para acelerar los descubrimientos científicos. Habla con admiración de los logros de Demis Hassabis, cofundador del laboratorio de investigación de IA rival Google DeepMind, quien en 2024 ganó un Premio Nobel por ayudar a desarrollar el modelo AlphaFold2, que ha predicho la estructura de 200 millones de proteínas.

"Estoy muy emocionado por lo que podemos hacer por la biología", dice Amodei. "AlphaFold me inspiró. Creo que Demis nos ha mostrado el camino. Quiero hacer algo similar". Con ese fin, Anthropic adquirió este mes la empresa startup biotecnológica Coefficient Bio por 400 millones de dólares. Anthropic también ha nombrado a Vas Narasimhan, director ejecutivo de Novartis, miembro de su junta directiva.

El objetivo no es desarrollar medicamentos por sí mismos, sino implementar herramientas basadas en IA en todas las etapas del proceso de desarrollo de fármacos. La IA puede ayudar a desarrollar hipótesis sobre cómo tratar las enfermedades, identificar candidatos a fármacos y llevar a cabo ensayos clínicos más eficientes, sugiere.

Amodei reconoce que actualmente existen dos narrativas públicas confusas sobre la IA, que él mismo ha alimentado en parte. En 2024, Amodei publicó un extenso ensayo titulado Machines of Loving Grace (Máquinas de gracia amorosa) en el que describió las ventajas radicales de la IA. Más tarde me dice que cree que la IA podría contribuir a elevar la tasa de crecimiento anual del producto interno bruto (PIB) de EE. UU. hasta el 10 por ciento al año, o incluso más.

Pero teme que, por el momento, predomine la narrativa negativa en torno a los riesgos de la IA. Él mismo ha detallado muchos de los peligros de la IA en un ensayo que publicó este año titulado "La adolescencia de la tecnología". También ha avivado los temores sobre la disrupción económica al advertir que la IA podría eliminar alrededor del 50 por ciento de todos los empleos administrativos de nivel inicial en un plazo de cinco años, lo que provocaría un aumento del desempleo.

Amodei insiste en que las compañías de IA deben abordar la disrupción económica que causará la tecnología. Parte de la razón por la que predomina la narrativa negativa, sugiere, es que la industria de la IA aún no ha materializado plenamente los beneficios. Hasta que eso suceda, es comprensible que la gente cuestione la narrativa positiva. "¿Es solo propaganda? De hecho, tenemos que hacer que suceda", dice.

"No debemos negar que la disrupción va a ocurrir. Simplemente tenemos que hacer que el efecto positivo sea tan grande que tengamos una herramienta para abordar la disrupción", dice. Su mantra es que la IA solo puede "difundirse a la velocidad de la confianza"; y la confianza es escasa en la actualidad.

Este mes, Anthropic ha galvanizado el mundo de la ciberseguridad mediante el lanzamiento cuidadosamente controlado de su modelo Claude Mythos Preview. La compañía dice que Mythos ha revelado miles de las llamadas vulnerabilidades informáticas de "día cero" —es decir, que no se habían descubierto hasta ahora— en todos los sistemas operativos y navegadores web, algunas de ellas con hasta 27 años de antigüedad. Desde entonces, funcionarios estadounidenses, entre otros, han mantenido conversaciones urgentes con los bancos más importantes del país para garantizar la seguridad de sus redes cibernéticas.

Amodei describe cómo Anthropic ha lanzado el Proyecto Glasswing, una colaboración con más de 40 organizaciones, entre ellas Amazon, Apple y Microsoft, para ayudar a encontrar y corregir vulnerabilidades cibernéticas. Pero la propia Anthropic enfrenta un escrutinio sobre sus prácticas de seguridad de datos tras las filtraciones de parte de su código. Amodei dice que sospecha que los modelos de código abierto y los desarrolladores chinos podrán replicar las capacidades de Mythos en un plazo de seis a 12 meses.

Contrariamente a su reputación de pacifista, Amodei está interesado en que los gobiernos democráticos aprovechen las ventajas de estos potentes modelos de IA para contrarrestar a los gobiernos autoritarios, como Rusia y China, y apoyar a aliados, entre ellos Ucrania y Taiwán. "Nos entusiasma que el gobierno de EE. UU. utilice esta tecnología", dice, sugiriendo que podría ayudar a "disolver" los regímenes autoritarios. "Pero no quiero que la IA se utilice en contra de nuestra propia gente ni con fines antidemocráticos, ya sea por parte de autocracias o de nuestros propios gobiernos".

Amodei dice que no puede hablar del caso judicial que Anthropic mantiene actualmente contra el Pentágono, en el que impugna su clasificación perjudicial como "riesgo para la cadena de suministro". Anthropic se había opuesto anteriormente a algunos de los usos de la IA propuestos por el ejército, alegando que podrían "socavar, en lugar de defender, los valores democráticos" en un conjunto limitado de casos. El Pentágono ha insistido en que todas las compañías de IA deben aceptar "todos los usos legales" de su tecnología. "Es una pena que Dario Amodei sea un mentiroso y tenga complejo de Dios", tuiteó Emil Michael, un alto funcionario del Pentágono.

Supongo que debe haber sido desconcertante ser tan atacado públicamente por el presidente de su país. Amodei dice que no se tomó las críticas como algo personal. "Cualquiera dice cualquier cosa por cualquier razón. De hecho, creo que es muy liberador tener un conjunto de principios y apegarse a ellos", dice.

Algunos comentaristas han sugerido que, al desarrollar Mythos, Anthropic ha adquirido los poderes de un Estado-nación. ¿No debería, por lo tanto, ser nacionalizada la compañía, sugieren, por motivos de seguridad? Amodei replica que cree firmemente en el principio estadounidense de controles y contrapesos. Sería peligroso, argumenta, que una sola compañía —o un solo gobierno— controlara esta tecnología por sí sola, y por eso Anthropic colabora tan estrechamente con otros.

Dice que cree firmemente que las compañías, la sociedad civil y el gobierno deben trabajar juntos para abordar nuestros desafíos tecnológicos. "Soy un patriota. Creo en este país", dice. "Creemos que desempeñamos un papel importante a la hora de ayudar a todos a comprenderlo y de ser un actor responsable en el que la gente pueda confiar".

Tras el lanzamiento de Mythos, Amodei está aún más convencido de la necesidad de una regulación sólida de la IA. Especula con que podrían surgir peligros similares en materia de bioseguridad en los próximos seis a doce meses. "Creo que deberíamos pensar en regular la IA de la misma manera que se regulan los automóviles y los aviones", dice. "Si no están bien construidos, pueden matarte".

Amodei ya ha tenido enfrentamientos anteriormente con otros en la industria tecnológica —a quienes describe como "actores con enfoque caótico"— que han invertido dinero en oponerse a aquellos candidatos a cargos políticos que favorecen la legislación estatal sobre la IA. Anthropic ha respondido donando 20 millones de dólares al superPAC Public First Action, que presiona a favor de regulaciones de seguridad más estrictas.

Espera que el Proyecto Glasswing pueda servir como prototipo de cómo se lanzarán en el futuro los potentes modelos de vanguardia. "Es un buen primer paso, pero sería genial si pudiéramos hacer algo más completo", dice.

Todos los grandes desarrolladores de modelos deberían trabajar juntos para ayudar a crear un marco para la evaluación obligatoria de la tecnología. Sugiere que alguna organización independiente, como el Frontier Model Forum, una organización sin fines de lucro respaldada por la industria, podría establecer los estándares. "Por ejemplo, ¿tu auto tiene frenos, tiene bolsas de aire, tiene cinturones de seguridad?"

¿No significaría eso que tendría que darse la mano con Sam Altman, su gran rival al frente de OpenAI?, le pregunto. Amodei se ríe. En una cumbre sobre IA celebrada en Nueva Delhi a principios de este año, Amodei y Altman se abstuvieron de darse la mano en el escenario, a diferencia de todos los demás participantes destacados. Muchos miembros del equipo de Anthropic, incluyendo Amodei, trabajaban anteriormente en OpenAI, pero se marcharon por temor a que Altman no se tomara lo suficientemente en serio las cuestiones de seguridad.

Amodei se cuida de no avivar más el conflicto con Altman, pero tiene la esperanza de que, si se logra generar suficiente impulso entre un núcleo de compañías de IA, todos se sentirán obligados a sumarse. Añade que los funcionarios del gobierno de EE. UU., que anteriormente se habían resistido a una regulación excesivamente intrusiva, también "entienden el momento". Dice: "Soy optimista. Se trata de actores sofisticados que tienen el incentivo para arreglar las cosas".

Hemos terminado de comer y Amodei no tiene tiempo para el postre ni el café. Pero se muestra más animado que en ningún otro momento de nuestro almuerzo al concluir con las responsabilidades de los ricos.

Sostiene que estamos viviendo una nueva Edad Dorada en la que unos pocos multimillonarios "increíblemente afortunados" (incluyendo él mismo) han amasado una riqueza prodigiosa y tienen la obligación de ser más filantrópicos. Algunos de los fundadores de Anthropic están vinculados al movimiento del altruismo eficaz, que intenta calcular la mejor manera de donar dinero. Amodei se muestra especialmente crítico con esos magnates tecnológicos que se indignan ante las críticas "injustas" de la prensa y luego "compran al árbitro" al adquirir sus propios medios de comunicación. Se niega a nombrarlos, pero sugiere que nuestros lectores podrían adivinar de quiénes se trata.

"Tenemos la obligación de retribuir de forma desinteresada. Y la sociedad no tiene por qué venerarnos por hacerlo", dice.

Sus palabras de despedida dejan claro que Amodei quiere posicionarse como uno de los buenos en el debate sobre la IA. Pero el tono de Amodei irrita a muchos críticos de Silicon Valley, quienes señalan cómo sus principios se alinean con los intereses comerciales de Anthropic. Las presiones ferozmente competitivas del capitalismo de accionistas también impondrán una lógica implacable propia.

Aun así, puede ser de enorme importancia para el mundo si son los científicos convertidos en emprendedores, como Amodei y Hassabis, quienes logran una IA de nivel humano, o los "actores con enfoque caótico" quienes llegan primero. Como actual líder del grupo de la IA, es seguro que Amodei será objeto de un escrutinio cada vez más feroz.

(John Thornhill. Copyright The Financial Times Limited 2026. © 2026 The Financial Times Ltd. All rights reserved. Please do not copy and paste FT articles and redistribute by email or post to the web).