Un escándalo ha conmovido al mundo literario. La editorial mexicana Almadía, ante las evidencias de que la novela Donde el agua trabaja, de David Silva Rojas —obra ganadora de su reciente certamen—, contiene un 99 % de texto generado por inteligencia artificial según el detector Pangram, anunció una revisión detallada y suspendió las actividades relacionadas con su presentación.
No se trata de una anécdota literaria menor. Es un síntoma, una señal de alerta del tiempo presente. Y, como ocurre con el cuerpo humano, cuando se ignoran o se dejan pasar los síntomas, estos pueden derivar en enfermedades sistémicas y catastróficas.
Si hoy un algoritmo puede fabricar casi por completo un libro que engaña a jurados, editores y lectores, ¿qué impide que mañana fabrique, sin control ni escrúpulos, estrategias militares o diseños de armamento autónomo?
De hecho, está comprobado que, por vía de la IA, se diseñan efectivas campañas de desinformación capaces de cambiar la decisión de millones de electores o de encender conflictos. No se trata de retórica, sino de un llamado urgente a la reflexión.
No apostamos por desenterrar a Ned Ludd y al ludismo del siglo XIX. La inteligencia artificial no es un demonio ni un ángel; es una herramienta de poder extraordinario. Pero, como toda herramienta de poder, su impacto depende de quién la controla, con qué límites y con qué propósito.
Poner reglas y límites no impedirá que se estimule el desarrollo y la aplicación de la IA en la medicina, la educación, la investigación climática y el bienestar colectivo.
Cuando se usa sin supervisión para producir literatura falsa, el daño es cultural y ético: se vacía el valor del esfuerzo humano, se devalúa el oficio de escribir y se confunde al público. En cambio, cuando esa misma capacidad se aplica sin freno a asuntos de armas, guerra o seguridad, el daño se mide en vidas humanas.
Las universidades —espacios que deberían ser el primer filtro del pensamiento crítico— y los gobiernos del mundo no pueden seguir indiferentes. Es necesario establecer marcos claros de regulación que distingan el uso legítimo del abuso.
Regular no significa prohibir la innovación. Significa exigir transparencia (¿quién generó esto?), trazabilidad (¿con qué datos se entrenó?), responsabilidad (¿quién responde si el sistema falla o se usa con fines dañinos?) y límites éticos firmes. Significa impedir que la tecnología de punta se convierta en un multiplicador de destrucción.
Poner reglas y límites no impedirá que se estimule el desarrollo y la aplicación de la IA en la medicina, la educación, la investigación climática y el bienestar colectivo.
Cuando se trata de las familias, corresponde a los padres establecer las reglas y límites a sus hijos menores de edad. Una cosa es valerse de la IA para facilitarse las tareas escolares, y abusar de su uso.
El caso de Almadía es un espejo pequeño que refleja un problema grande. Si no aprendemos a mirarlo con seriedad, el próximo “libro” generado por máquinas que descubramos no estará en una editorial: estará en un campo de batalla o en una sala de control de armas de destrucción masiva.
La IA puede ser una de las mayores fuerzas de avance que la humanidad haya creado, o puede ser todo lo contrario. La diferencia no está en el código tecnológico; está en la voluntad política, académica y social de ponerle límites antes de que sea demasiado tarde. Nos toca a los humanos decidir qué habilidades permitiremos que desarrolle la IA y, sobre todo, para qué.
Compartir esta nota
Sigue leyendo
{{#volanta}}{{volanta}}{{/volanta}}