¿Lo escribió la IA? Cada vez es más difícil saberlo

Cuando Max Spero lee algo en internet, confía en su intuición para determinar si fue escrito por IA incluso antes de pasarlo por su software de detección.

El exingeniero de software de Google pasó años trabajando en aprendizaje automático, por lo que su instinto es más matizado que el de la mayoría. No busca los indicadores clásicos de los grandes modelos de lenguaje —los guiones largos, las alucinaciones y el tono agradablemente fluido—. Lo que percibe es más bien una sensación de vacío. “Busco densidad de información”, dice. “Cuando escribe una persona, cada palabra tiene una intención. Cuando la IA genera un texto, no”.

Durante el último año, Spero se ha convertido en una especie de héroe para el pequeño pero decidido grupo de detectives lingüísticos aficionados que denuncian lo que consideran un uso engañoso de la IA.

Cuando aparece un titular que afirma que un tercio de las nuevas páginas web fueron escritas con IA, o que una quinta parte de los libros electrónicos de Kindle lo fueron, los investigadores suelen haber utilizado el detector de IA de Spero, Pangram. Este estuvo en el centro del escándalo de Shy Girl, en el que las acusaciones de uso de IA provocaron que la novela fuera retirada de las librerías, pese a que su autora, Mia Ballard, negó haber utilizado la tecnología. Este verano, Pangram fue utilizado para acusar al trinitense Jamir Nazir de haber presentado un relato escrito con IA al prestigioso Commonwealth Short Story Prize.

Textos publicados por jueces, consultores, abogados y periódicos —incluidos The New York Times, el FT y The Wall Street Journal— han sido señalados por detectores de IA. Muchos de quienes utilizan estos programas dicen que no están en contra de la IA en sí misma, sino de la deshonestidad relacionada con su uso. El contenido generado por IA presentado como humano “contamina los bienes comunes”, afirma Chris Best, director ejecutivo de la plataforma de publicación Substack, que trabaja con Pangram para analizar sus boletines.

Spero ha intervenido ocasionalmente en las redes sociales, donde publica capturas de pantalla y ofrece analizar textos con su modelo.

Él y su cofundador, Bradley Emi, también graduado de Stanford y exinvestigador de aprendizaje automático en Tesla, crearon Pangram en 2023 porque estaban preocupados por lo que ocurriría si dejáramos de poder distinguir el contenido generado por máquinas del que producimos nosotros mismos. Su argumento es que, en la era de la IA, la autenticidad es más valiosa que nunca.

Pero en medio de esta carrera del gato y el ratón están quienes no están tan convencidos de que pueda trazarse una línea clara entre el texto humano y el generado por IA. Universidades como Oxford, Cambridge y Harvard, que apoyan el uso de IA generativa por parte de sus estudiantes, no recomiendan utilizar detectores comerciales de IA para analizar trabajos académicos.

Los escritores señalan que los rasgos comúnmente atribuidos a la IA también aparecen en textos escritos por humanos y que tanto los programas de detección como las intuiciones pueden equivocarse. Muchos están preocupados por las consecuencias de una acusación falsa. Una persona que trabaja en el sector tecnológico afirma que la batalla por alcanzar una certeza absoluta se perdió en el momento en que OpenAI lanzó ChatGPT a finales de 2022.

Algunos de los escritores acusados de utilizar IA también se están defendiendo, ya sea argumentando que no hay nada malo en usarla o señalando que la paranoia alrededor del contenido sintético ha provocado una especie de caza de brujas. Nazir ha insistido en repetidas ocasiones en que no utilizó IA para escribir su relato, The Serpent in the Grove, que ganó el premio Commonwealth. Compara la IA y Pangram con Eris, la diosa de la discordia que lanzó una manzana y desencadenó la guerra de Troya.

“Entrenamos esta cosa con todo nuestro lenguaje”, dice al FT. “Y ahora es imposible confiar unos en otros”.

Las disputas sobre la procedencia de una obra no son nuevas. El poeta romano Marcial escribió en el siglo I un poema dirigido a otro poeta al que acusaba de apropiarse de sus palabras (plagiario). Y durante años, los autores han delegado su trabajo en escritores fantasma, asistentes de investigación y editores sin reconocer sus aportes.

La diferencia ahora es el volumen. La velocidad y facilidad con la que la IA puede generar textos hacen razonable asumir que una gran parte de lo que vemos en internet podría haber sido producido artificialmente.

Los detectores de IA como Pangram, GPTZero, Winston AI o Copyleaks permiten a los usuarios introducir fragmentos sospechosos y obtener un porcentaje que indica cuánto del texto estiman que fue generado por IA. Existen versiones gratuitas limitadas, mientras que las suscripciones pueden costar hasta US$74.99 al mes.

Pero entender exactamente cómo llegan a sus resultados no es sencillo. Los detectores no revelan todos sus procedimientos técnicos, incluidos los textos utilizados para entrenarlos. Tampoco ofrecen a los usuarios un desglose preciso de la puntuación.

En términos generales, los detectores buscan patrones: no una palabra supuestamente característica de la IA, como el frecuentemente citado “delve”, sino combinaciones que coincidan con las decisiones que podría tomar un gran modelo de lenguaje.

Existen diferentes maneras de hacerlo. Investigadores de la Universidad de California en Santa Bárbara desarrollaron el denominado “Divergent N-Gram Analysis” (DNA-GPT), mediante el cual un texto se divide por la mitad y se utiliza IA para escribir un nuevo final. Luego se comparan ambas partes.

Pangram, que quedó en primer lugar en un estudio reciente sobre la fiabilidad de los detectores realizado por investigadores de la Vrije Universiteit Brussel, adoptó un enfoque más laborioso. Recopiló millones de textos escritos por humanos antes de la aparición de ChatGPT —desde reseñas de Amazon hasta poesía y ensayos extensos— y después generó textos “espejo sintéticos” a partir de distintos chatbots. Los pares fueron introducidos en su modelo para entrenarlo a diferenciarlos.

El entrenamiento se actualiza a medida que aparecen nuevos modelos de IA. “Nos tomó un año superar al resto del mercado”, afirma Spero. “Y otro año trabajando en el problema de distinguir entre textos asistidos por IA y textos completamente generados por IA. Ahora tenemos un buen modelo”.

GPTZero, uno de los primeros detectores, creado por Edward Tian, de 26 años, quien trabajó como investigador de investigaciones para Bellingcat, compara los patrones que buscan los detectores de IA con un mosaico. Su software, utilizado recientemente para identificar alucinaciones de IA en informes elaborados por EY y PwC, también emplea un clasificador entrenado con documentos generados por IA y escritos por humanos.

Los textos enviados para su detección se dividen en fragmentos y se procesan como tokens, que se convierten en representaciones numéricas. Estas se comparan con números generados a partir de textos escritos por IA y por humanos para detectar coincidencias, no solo en la elección de palabras, sino también en su ubicación, frecuencia, oraciones y párrafos. Cuanto mayor sea el texto, más patrones hay que analizar.

Características de un texto escrito por IA

• La escritura de IA utiliza la regla de tres (X, Y y Z).
• Guiones largos seguidos de una lista de palabras.
• La fórmula “puede hacer X, pero no puede hacer Y”.
• “Deeper” es una de las palabras que aparecen con frecuencia en textos generados por IA.

Texto editado por un humano

• La repetición de “from” cambia el ritmo y crea líneas desiguales.
• La oración excesivamente larga se divide.

Uso de un “humanizador”

• La escritura es menos pulida.
• Se mantiene la misma regla de tres.
• Permanece la fórmula “puede hacer X, pero no puede hacer Y”.
• La parte final reescrita se convierte en una oración divagante y excesivamente larga.

Por eso los principales detectores todavía pueden identificar el uso de IA incluso después de que alguien haya cambiado algunas palabras o reorganizado algunas líneas. Algunos también han incorporado análisis de plagio e identificadores de imágenes generadas por IA.

Los fundadores de empresas de detección saben que compiten con los laboratorios de IA, que tienen interés en hacer que sus resultados sean lo más naturales posible, y con las herramientas “humanizadoras” diseñadas para alterar y reescribir textos con el objetivo de eliminar los signos evidentes de uso de IA.

Sin embargo, el verdadero enemigo son los falsos positivos: el riesgo de que un modelo identifique incorrectamente un texto humano como generado por IA. OpenAI retiró su propio programa de detección en 2023 después de que se informara de una tasa de falsos positivos del 9 %. En 2024, un usuario afirmó que un detector había identificado la Declaración de Independencia de Estados Unidos como escrita en un 98 % por IA. Un estudio de Stanford ampliamente citado concluyó que los textos de personas que no tienen el inglés como lengua materna tenían más probabilidades de ser marcados erróneamente como generados por IA, algo que sus autores atribuyeron posiblemente a una menor variabilidad lingüística y a determinadas elecciones de palabras.

Aquí es donde resulta importante el umbral de evidencia establecido por un detector de IA.

Brian Jabarian, economista de la Carnegie Mellon University, publicó el pasado septiembre una investigación en la que comparó tres detectores comerciales de IA: Pangram, OriginalityAI y GPTZero. Introdujo casi 2,000 muestras de textos escritos por humanos junto con equivalentes generados por IA y estableció diferentes umbrales de evidencia. Al reducir el umbral, aumenta la cantidad de textos identificados como generados por IA, pero también se incrementa ligeramente la posibilidad de obtener falsos positivos.

Pangram afirma que su modelo más reciente tiene una tasa de falsos positivos de apenas 0.0041 %, o aproximadamente un falso positivo por cada 24,000 documentos. La pregunta es si estamos dispuestos a aceptar el riesgo de esa única acusación falsa. “Esa no es una decisión que corresponda a las empresas tecnológicas”, dice Jabarian. “Es una decisión social”.

Nazir afirma que es una de las personas acusadas injustamente. Después de que su relato corto ganara en mayo el Commonwealth Prize de la región del Caribe, una cuenta anónima de X publicó una captura de pantalla en la que se mostraba que Pangram lo había identificado como un texto generado por IA en un 100 %.

Otros usuarios se sumaron para decir que podían saber que era IA incluso sin utilizar el detector. “Supe que era GPT en unos cinco segundos”, escribió Nabeel S Qureshi, un antiguo ingeniero de Palantir.

Los comentaristas señalaron lo que consideraban indicios del uso de IA. “No la pulcra industria de las abejas… sino un sonido del vientre” fue interpretado como una formulación del tipo “no X sino Y”, habitual en los textos generados por IA. La frase “tenía una forma de caminar que hacía que los bancos se convirtieran en hombres” fue considerada una metáfora absurda propia de la IA, mientras que “las tareas silenciosas, las manos pacientes, la lámpara apagada” fue identificada como una típica regla de tres de los textos generados por IA. Algunos llegaron a preguntarse si el propio escritor era real, señalando su fotografía extrañamente simétrica.

Desde su casa en Trinidad, soleada y llena de plantas, Nazir afirma que sí, la fotografía fue alterada digitalmente para mejorar su apariencia, pero que no, su relato no fue escrito con IA. La frase sobre los bancos, por ejemplo, era su manera de expresar que una mujer podía ser tan hermosa que los objetos inanimados cobrarían vida.

“Es una técnica literaria”, dice. “¿Acaso estos lectores no entienden el misticismo? Hay una frase en uno de los libros de Salman Rushdie en la que las personas flotan por el aire. Eso tampoco ocurrió”.

Nazir, un funcionario público jubilado de 62 años, es más desaliñado que en su controvertida fotografía, con barba entrecana y gruesas gafas negras que lleva apoyadas sobre la frente. Al describir los acontecimientos de los últimos meses, alterna entre la diversión afable —“esa fotografía quedó muy bien”—, el dolor por las críticas a su escritura y la exasperación por las acusaciones de que utilizó IA.

El relato que presentó, afirma, surgió de un recuerdo de infancia: el trayecto a pie hacia la escuela atravesando campos de caña. Su estilo de escritura, que algunos lectores calificaron de rígido y artificial, es resultado de una carrera dedicada a redactar informes técnicos y de toda una vida leyendo poesía de autores como el indio Rabindranath Tagore y el poeta palestino Mahmoud Darwish. Pero no de la IA, ni siquiera para editarlo. “No uso IA, uso GI”, dice. “La inteligencia de Dios”.

Debido a que su estado de salud es delicado —la neuropatía le dificulta escribir a máquina y está recibiendo quimioterapia por un linfoma—, dicta sus poemas y relatos mediante una herramienta de conversión de voz a texto. Pero insiste en que no utiliza ningún tipo de herramienta de IA para escribir.

Sus críticos no están convencidos. “Era bastante obvio”, afirma Ethan Mollick, investigador de IA y profesor asociado de la Wharton School de la Universidad de Pensilvania, quien criticó el relato en internet. “La IA es buena en muchas cosas, pero escribir ficción no es una de ellas”.

Tuhin Chakrabarty, profesor asistente del departamento de informática de la Stony Brook University SUNY y coautor del estudio sobre el uso de IA en libros electrónicos, señala que el relato contiene seis casos de la palabra “hum”, algo que, según afirma, ChatGPT suele utilizar en la ficción. No tiene reparos en señalar públicamente a personas que considera que intentan presentar como propias obras escritas con IA. “Escribo sobre derecho de autor y creo que debería existir un estigma [sobre el uso de IA]”, afirma.

La Commonwealth Foundation llevó a cabo una investigación y respaldó a Nazir. Sin embargo, la revista literaria Granta anunció que dejaría de publicar los relatos ganadores. “En este momento realmente no hay manera de determinar si una obra es auténtica o no”, afirma Sigrid Rausing, editora de Granta. Aun así, aclara que no está en contra de la IA. “Si un escritor crea un texto experimental con material generado por IA y es transparente al respecto, estaría encantada de leerlo y publicarlo, si es bueno”.

Tales experimentos parecen poco probables. En 2023, el escritor James Frey declaró a la revista francesa Pompidou+ que estaba utilizando IA en la composición de su nuevo libro y que no revelaría qué partes habían sido escritas por él y cuáles por la IA. Ese texto experimental todavía no ha visto la luz.

El mismo silencio rodea al trabajo comercial. A pesar de hablar abiertamente sobre la IA y sus efectos positivos, muchas empresas parecen reacias a aclarar exactamente cómo la utilizan en sus informes escritos. Cuando el uso de IA ha provocado errores, como ocurrió con trabajos realizados por KPMG, EY, PwC y Deloitte, las empresas han sido objeto de críticas.

“Si estos hubieran sido errores humanos, ¿las acusaciones serían igual de fuertes?”, pregunta Ashley Williams, abogada y responsable de tecnología de Mishcon de Reya, en Londres. “Creo que esto demuestra que todos todavía estamos tratando de determinar cómo deberíamos utilizar la IA y dónde debería trazarse la línea”.

Un consultor afirmó que la falta de transparencia se debe a que las empresas temen que sus clientes consideren los informes generados por IA como intrínsecamente inferiores en calidad. “[La IA] es muy buena produciendo las partes que son formuláicas, pero los clientes quizá no comprendan que todavía se necesita un profesional para revisar y reescribir los documentos. Existe un estigma de que el texto generado por IA tiene menos peso”.

A finales de este año, la UE planea introducir marcas de agua en los textos generados por IA, algo que grupos de defensa han reclamado durante años. Anthropic ya ha anunciado que sus nuevos modelos Claude incluirán estas marcas imperceptibles.

Sin embargo, en lugar de aclarar las cosas, las marcas de agua podrían complicarlas aún más. Editar, parafrasear y copiar un texto podría eliminar las marcas. Anthropic señala que la ausencia de una marca de agua no demostrará que no se utilizó IA.

Mollick, de la Wharton School de la Universidad de Pensilvania, considera que el hecho de que ningún detector ni marca de agua sea completamente infalible significa que ya hemos superado la “frontera K-T” de la IA, el marcador geológico de un evento de extinción.

“La autenticidad va a ser un problema en todas partes”, afirma. “Todavía estamos en medio de una negociación sobre qué partes de la escritura queremos conservar como humanas y cuáles aceptamos que puedan ser realizadas por IA”.

Los códigos de conducta están cambiando. Si la IA es inaceptable para escribir literatura, ¿es aceptable para textos más prosaicos, como borradores legales y auditorías, siempre que la calidad sea alta y el tiempo ahorrado se refleje en el precio? ¿Son los correos electrónicos redactados por IA una herramienta útil o un insulto para quien los recibe? ¿Deben revelarse siempre los borradores y las ediciones realizadas con IA? ¿Y las acusaciones basadas en intuiciones y detectores de IA conducirán a una mayor vigilancia y a distorsiones del lenguaje?

“Creo que el futuro será un equilibrio, un balance entre la escritura humana y la escrita por IA”, afirma Tian, creador del detector GPTZero. Considera que las acusaciones de plagio disminuirán a medida que más personas integren la IA en sus vidas. Pero, añade, todavía necesitamos encontrar maneras de comunicarnos entre nosotros sin que las máquinas actúen como intermediarias.

“Escribir es más que producir un resultado. Refleja nuestro pensamiento crítico”, afirma. “Hay algo hermoso en ello que vale la pena preservar”.

*El código editorial de prácticas del FT establece que las herramientas de IA generativa no deben utilizarse para escribir un artículo o texto destinado a publicación, ni para crear otros contenidos dirigidos a los lectores.

Elaine Moore. Copyright The Financial Times Limited 2026 © 2026 The Financial Times Ltd. Todos los derechos reservados. Se prohíbe copiar y pegar los artículos del FT y redistribuirlos por correo electrónico, publicarlos en la web o compartirlos de cualquier otra manera.