¿Quién está enseñando a la IA qué debe creer?

La nueva carrera por influir en la inteligencia artificial

Durante más de dos décadas aprendimos a convivir con los algoritmos. Primero fueron los motores de búsqueda, luego las redes sociales y, más recientemente, la inteligencia artificial generativa. En cada etapa apareció una nueva competencia: descubrir cómo influir en aquello que millones de personas utilizan para informarse, comprar, trabajar o tomar decisiones.

Hace veinte años las empresas competían por aparecer en la primera página de Google. Después intentaron dominar los algoritmos de Facebook, Instagram, TikTok o X para ganar visibilidad. Hoy está naciendo una nueva industria, mucho más sofisticada y con consecuencias potencialmente más profundas. Ya no se trata de convencer directamente a las personas. Se trata de convencer a la inteligencia artificial.

Puede parecer una idea propia de una novela de ciencia ficción, pero ya está ocurriendo. Gobiernos, empresas, organizaciones e incluso grupos criminales están desarrollando técnicas para influir en los sistemas de inteligencia artificial mediante métodos como el prompt injection, el data poisoning o la manipulación del propio modelo. En otras palabras, ha comenzado una nueva carrera para moldear la forma en que la IA interpreta la realidad.

La pregunta ya no es únicamente quién desarrolla el mejor modelo de inteligencia artificial. La verdadera pregunta empieza a ser quién consigue enseñarle qué debe considerar como cierto.

Del “SEO” al "GEO"

Durante años las empresas invirtieron millones de dólares en SEO (Search Engine Optimization). El objetivo era sencillo: si Google mostraba primero una determinada página web, esa empresa tenía muchas más probabilidades de conseguir clientes.

La inteligencia artificial cambia completamente esa lógica. Cada vez más personas ya no buscan una lista de enlaces. Simplemente formulan una pregunta y esperan una respuesta directa. En lugar de visitar diez páginas web para comparar información, reciben una única respuesta elaborada por un modelo de IA.

Esto convierte a la inteligencia artificial en un nuevo intermediario del conocimiento. Y donde existe un intermediario siempre aparece alguien interesado en influir sobre él.

Ya algunos especialistas hablan de un nuevo concepto que podría llamarse Generative Engine Optimization (GEO): el conjunto de técnicas destinadas a influir en las respuestas que generan los modelos de inteligencia artificial. Si el SEO buscaba posicionarse ante Google, el GEO pretende posicionarse ante la propia IA.

Cuando la IA puede ser engañada

Uno de los métodos más conocidos recibe el nombre de prompt injection. Aunque el término pueda parecer complejo, la idea es sorprendentemente simple. En lugar de atacar el sistema mediante virus o programas maliciosos, el atacante introduce instrucciones ocultas dentro de documentos, páginas web o bases de datos que posteriormente serán leídas por la inteligencia artificial.

Cuando el modelo procesa esa información, puede interpretar esas instrucciones como si fueran órdenes legítimas y modificar su comportamiento sin que el usuario sea consciente de ello. Es como esconder una nota secreta dentro de un libro sabiendo que quien lo lea obedecerá el mensaje oculto.

Los investigadores consideran que esta es una de las amenazas más difíciles de eliminar, especialmente ahora que los asistentes de IA comienzan a leer documentos, navegar por Internet o interactuar con múltiples fuentes de información de forma autónoma.

Contaminar el conocimiento

Existe una segunda estrategia aún más preocupante: el data poisoning.

En este caso no se intenta engañar a la inteligencia artificial durante una conversación, sino modificar la información con la que aprende. Si una cantidad suficiente de datos contiene errores deliberados, propaganda o información falsa, existe el riesgo de que el modelo incorpore esos contenidos como si fueran hechos confiables.

La comparación resulta sencilla. Imaginemos que alguien consigue introducir miles de datos falsos en una enciclopedia antes de que una generación completa de estudiantes la utilice para aprender historia. Durante años, millones de personas repetirían información incorrecta creyendo que es verdadera.

Con la inteligencia artificial ocurre algo similar, pero a una velocidad infinitamente mayor y con un alcance global.

Manipular la forma de razonar

Todavía existe un tercer nivel de sofisticación: intentar modificar la forma en que la propia inteligencia artificial razona, prioriza determinadas fuentes o construye sus respuestas.

Ya no se trata únicamente de cambiar datos concretos, sino de influir en los criterios que utiliza el modelo para decidir qué información considera más relevante, más confiable o más creíble.

En la práctica, esto significa que dos personas podrían formular exactamente la misma pregunta y recibir respuestas diferentes dependiendo de cómo haya sido influenciado previamente el sistema.

Esta posibilidad preocupa especialmente porque la inteligencia artificial está comenzando a participar en decisiones relacionadas con la salud, las finanzas, la educación, el derecho o la administración pública. Si el criterio de esos sistemas puede ser manipulado, las consecuencias trascienden el ámbito tecnológico y pasan a convertirse en un asunto económico, político y social.

La nueva geopolítica de la inteligencia artificial

Durante los últimos años hemos hablado de la competencia por los semiconductores, las tierras raras, el petróleo o el control de las cadenas globales de suministro. Sin embargo, la próxima disputa estratégica podría centrarse en algo mucho menos visible: controlar la información que alimenta a la inteligencia artificial.

No necesariamente será preciso modificar directamente un modelo desarrollado por una gran empresa tecnológica. Bastará con influir de manera sistemática en el ecosistema de información del que ese modelo obtiene conocimiento o con desarrollar técnicas capaces de alterar su comportamiento durante el uso cotidiano.

En este contexto, la desinformación entra en una nueva dimensión. Antes era necesario convencer a millones de ciudadanos mediante campañas de propaganda o noticias falsas. Ahora podría bastar con influir sobre los sistemas de inteligencia artificial que utilizan cientos de millones de personas cada día para consultar información, redactar documentos, comparar productos o tomar decisiones.

La batalla ya no consiste únicamente en controlar la conversación pública. También consiste en controlar al intermediario que genera esa conversación.

¿Qué significa esto para la República Dominicana?

Aunque pueda parecer un problema exclusivo de Silicon Valley o de las grandes potencias, sus implicaciones también alcanzan a la República Dominicana.

Cada vez más empresas locales incorporan inteligencia artificial para atender clientes, elaborar informes, analizar contratos, apoyar decisiones financieras o automatizar procesos internos. Las universidades comienzan a utilizarla como herramienta educativa y las instituciones públicas exploran su aplicación para mejorar servicios y aumentar la eficiencia administrativa.

En ese escenario, la calidad de las respuestas de la IA dependerá no solo de la potencia de sus algoritmos, sino también de la calidad y la integridad de la información sobre la que se apoya. Una inteligencia artificial manipulada podría recomendar proveedores inadecuados, reproducir información incorrecta, favorecer determinados intereses económicos o amplificar narrativas falsas con una apariencia de absoluta objetividad.

Por ello, la alfabetización digital del futuro ya no consistirá únicamente en aprender a utilizar herramientas de inteligencia artificial. También implicará desarrollar la capacidad crítica para comprender que, detrás de una respuesta aparentemente neutral, puede existir un intento deliberado de influir en lo que pensamos.

Una nueva carrera acaba de comenzar

Durante años repetimos que quien controlaba el algoritmo controlaba la visibilidad. Hoy esa afirmación ya no resulta suficiente. Estamos entrando en una etapa en la que quien consiga influir en la inteligencia artificial podría terminar influyendo en las decisiones de millones de personas, empresas e incluso gobiernos.

La próxima gran competencia tecnológica no consistirá únicamente en construir modelos cada vez más inteligentes. Consistirá en decidir quién logra enseñarles qué deben creer. Y quizás esa sea una de las preguntas más importantes de la próxima década.