«Conoce a tu agente» será la nueva regla de la era de la IA

Durante décadas, los organismos reguladores han obligado a los bancos a seguir las normas de «Conoce a tu cliente» para intentar prevenir el lavado de dinero. Pero ¿qué sucede cuando los clientes de carne y hueso se convierten en máquinas inanimadas? Ahora, la regla para cada persona y empresa será: «Conoce a tu agente».

Como describe Ben Macintyre en su último libro, Redwood, sobre el espionaje internacional en el Teherán posrevolucionario, manejar agentes humanos puede ser un asunto complicado. Cuando el oficial del MI6 Ian McCredie estaba a cargo de un espía del KGB, resultaba difícil saber hasta qué punto podía confiar en el ruso y qué grado de fiabilidad tenía la información que proporcionaba. Pero los espías consideran que las motivaciones humanas giran principalmente en torno al dinero, la ideología, la coacción y el ego.

Los agentes de inteligencia artificial (IA), por otro lado, no tienen motivación ni intención inherentes, pueden programarse para hacer el bien o el mal, pueden actuar de maneras inexplicables y pueden presentar muchas más capas de complejidad y opacidad. Se está desarrollando rápidamente todo un nuevo ecosistema de agentes para verificar, alinear y revisar minuciosamente a estos asistentes automatizados. Al igual que ocurrió con la evolución de la World Wide Web, los protocolos, estándares y normas que subyacen a este ecosistema darán forma al uso futuro de la tecnología.

Los agentes de IA, sistemas de software autónomos diseñados para alcanzar objetivos de múltiples pasos con una intervención humana mínima, ya están siendo implementados a gran escala por muchas compañías. Un informe publicado este año por Deloitte reveló que el 23 % de las compañías los utilizan actualmente. Sin embargo, el 74 % tiene la intención de hacerlo en los próximos dos años. Muse, el agente personal de IA que Meta lanzó recientemente y que puede hacer la compra del supermercado y reservar viajes, es muy popular.

Este uso cada vez mayor de los agentes de IA presenta tres desafíos principales. El primero, y posiblemente el más sencillo de abordar, es identificar criptográficamente a un agente específico cuando interactúa con otros. Varias décadas de experiencia en el mercado de pagos en línea, valorado en US$37 billones, demuestran cómo esto se puede lograr a gran escala y con rapidez, aunque la seguridad siga siendo una vulnerabilidad permanente.

El segundo desafío es asegurarse de que los agentes se comporten como queremos, lo cual puede ser mucho más difícil de lograr. Las instrucciones imprecisas pueden llevar a consecuencias no deseadas, como descubrió el mítico rey Midas cuando convirtió —accidentalmente— a su hija en oro. La necesidad de establecer límites adecuados quedó de manifiesto en un incidente ocurrido en Australia a principios de este año. El asistente de IA de un técnico informático le consiguió un espacio en un horario muy solicitado de un gimnasio al eliminar de la lista de espera a otros socios, algo que su usuario no pretendía. Las complicaciones son mucho mayores cuando varios agentes interactúan entre sí, como descubrió OpenAI cuando un enjambre de 700 de sus agentes, trabajando en conjunto, hackeó la plataforma de IA HuggingFace.

Esto pone de relieve el tercer gran desafío: determinar quién debe rendir cuentas y quién es legalmente responsable cuando las cosas salen mal. ¿Qué pasa si un agente de IA realiza una acción que infringe la ley o provoca daño físico? ¿O si divulga información personal o comercial confidencial? Cabe esperar innumerables disputas sobre cómo distribuir la responsabilidad, lo que garantizará años de trabajo muy rentable para abogados y aseguradoras.

Por lo tanto, la cuestión fundamental que determina el éxito en el uso de los agentes de IA se reduce a la gobernanza. Pero la gobernanza depende de muchos factores, incluyendo la calidad de los datos subyacentes que alimentan estos sistemas. Y, de todos modos, no todos los principios y prácticas de una persona o una compañía están contenidos en esos datos concretos.

Los agentes de IA pueden optimizarse para resolver un problema específico, pero pueden causar otros de manera involuntaria (como eliminar a personas de la lista de espera de un gimnasio). Su efectividad depende de comprender el contexto más amplio en el que operan. Pero muchas de estas normas operativas residen en los «números mágicos» que las personas llevan en la cabeza. «El contexto es mucho más que solo vocabulario u ontología», dice Craig Gravina, director de tecnología de la compañía de datos Semarchy.

En ese sentido, implementar un agente de IA es como contratar a un empleado humano. ¿Cuál es la mejor manera de capacitarlo? ¿Qué privilegios debemos concederle y cuándo? ¿A qué datos confidenciales debemos permitirle acceder?

Al igual que un oficial del MI6 encargado de gestionar su espía, realmente necesitas conocer bien a tu agente.

John Thornhill. Copyright The Financial Times Limited 2026. © 2026 The Financial Times Ltd. All rights reserved. Please do not copy and paste FT articles and redistribute by email or post to the web.