“Hay un nuevo muro digital dentro de TikTok”

Por Thomas Bourdeau

RFI: El algoritmo de TikTok EE.UU. ha cambiado recientemente de propietario. ¿Ha observado algún cambio en él desde ese momento?

Salvatore Romano: Poco después de la firma y el cierre de este acuerdo entre Estados Unidos y TikTok, descubrimos varios problemas en la plataforma. Está claro que los ingenieros estaban trabajando en ella para crear medidas de seguridad adicionales que les permitieran moderar y, eventualmente, censurar o promover contenidos específicos en Estados Unidos sin afectar al conjunto de TikTok a nivel mundial.

¿Ha observado alguna vez maniobras de este tipo en el pasado?

Vimos cosas similares durante la invasión de Ucrania por parte de Rusia. El Kremlin promulgó entonces una ley contra la desinformación que permitía encarcelar a quienes no quisieran decir, por ejemplo, que la guerra en Ucrania era una “operación especial”. Después de eso, todas las plataformas occidentales fueron prohibidas o abandonaron Rusia.

La única plataforma que quedó fue TikTok, que decidió, en lugar de abandonar el país, cumplir con la ley. En los días siguientes, en Rusia, registramos una serie de acontecimientos muy similares a los que estamos registrando ahora en Estados Unidos…

¿Es decir?

Por ejemplo, si tenías una cuenta rusa, no podías verla desde el extranjero. Y lo mismo ocurría a la inversa. Eso es lo que hemos observado en Estados Unidos. Creamos un perfil en Estados Unidos y luego publicamos contenido. El contenido era visible, pero la cuenta en sí no lo era desde la UE. Esto ocurrió tras la aplicación del acuerdo.

Es un síntoma de la creación de un nuevo muro dentro de TikTok. Un muro digital que puede permitir a los propietarios estadounidenses utilizar un filtro sobre el contenido procedente del resto del mundo. Este muro también puede ser utilizado por TikTok en el resto del mundo para impedir que se difunda cierto contenido estadounidense. Este muro puede utilizarse para censurar y afectar a la experiencia del usuario en Estados Unidos. Es similar a lo que ocurrió en Rusia, pero en Estados Unidos probablemente será menos evidente.

¿En Europa y África, por ejemplo, funciona la versión algorítmica china de TikTok?

Creemos que el algoritmo es el mismo en todo el mundo, excepto en Douyin [Douyin, “vibrato” en chino, es la versión china de TikTok, desarrollada por ByteDance específicamente para el mercado chino desde 2016, nota del editor]. Es posible que Estados Unidos cambie el algoritmo o que algunos países exijan una moderación específica para su país, pero es muy difícil de demostrar. Algunos parámetros pueden ajustarse para cumplir con la normativa nacional.

¿Tenemos información sobre cómo Oracle, la empresa estadounidense que gestiona TikTok en Estados Unidos, puede modificar el algoritmo?

Han dividido el equipo entre trabajadores estadounidenses y no estadounidenses. Hay un grupo dedicado de personas que trabajan exclusivamente en TikTok EE.UU. Estas personas responden directamente a las empresas que las supervisan.

Los primeros síntomas que observamos en la plataforma no son tranquilizadores. Está claro que estaban haciendo pruebas, pero no está tan claro por qué empezaron con las revelaciones sobre Epstein, por ejemplo, en lugar de con el fútbol. También hubo errores extraños relacionados con la extrema derecha y la desinformación, lo cual es bastante preocupante.

Tendremos más pruebas en los próximos meses. Los cambios que observamos fueron correcciones rápidas. La moderación que eventualmente implementará Oracle será mucho más sutil, llevará más tiempo desarrollarla y también más tiempo estudiarla. Pero las primeras observaciones realmente no fueron tranquilizadoras.

¿Qué pasa con otros algoritmos de redes sociales, por ejemplo, X o Facebook?

El enfoque estadounidense es que todos los países acepten su plataforma tal cual, o se queden sin ella. Rusia prohibió Facebook y otras plataformas, pero Twitter (ahora X) decidió retirarse antes incluso de ser censurado. Todas las empresas estadounidenses hicieron lo mismo, excepto YouTube, que era muy difícil de sustituir para los rusos porque contiene mucha información muy útil sobre cómo reparar tractores y muchas otras cosas…

TikTok, por su parte, se adapta para cumplir con las regulaciones nacionales con el fin, en teoría, de conquistar más mercados. Pero si se prohíbe TikTok, como ha ocurrido en la India y en muchos otros países, solo se perderá TikTok, lo que es menos perjudicial que dejar de tener Instagram, Facebook, X, YouTube, Google y toda la infraestructura digital con sede en Estados Unidos.

Facebook y Google tienen más o menos la misma política en todo el mundo. Un caso ejemplar fue la solicitud de Erdoğan a Facebook de eliminar contenidos pro kurdos, Facebook eliminó entonces estos contenidos no solo para los usuarios turcos, sino para los usuarios de todo el mundo. Cuando toman una posición, lo hacen a nivel mundial.

¿Se puede decir que los algoritmos de las redes sociales “clásicas” han quedado obsoletos con la llegada de la IA?

Las grandes plataformas comerciales han alcanzado un número muy elevado de usuarios y ahora pueden monetizar. Facebook y otras plataformas están empezando a poner cada vez más anuncios, reduciendo la calidad en general, pero aumentando los ingresos. Esa es la tendencia general.

TikTok, una de las plataformas más punteras, va muy bien y probablemente seguirá en la cresta de la ola durante algunos meses y años más, pero es posible que sea sustituida por nuevas formas de redes sociales, como siempre ha ocurrido en el pasado.

¿Cómo analiza este momento tecnológico relacionado con la IA?

Ya existe una nueva ola de redes sociales generadas íntegramente por IA, como Vibes, por ejemplo, en Meta, donde no hay creadores de contenido. [Meta Vibes funciona como un feed similar a TikTok dedicado a vídeos cortos generados al 100 % por IA, nota del editor]. Se trata de una nueva etapa en la que la creación de contenido no será necesaria y será sustituida por la IA.

La IA generativa está creando una nueva infraestructura global de datos y potencia de cálculo que será la base de la próxima generación de Internet. Las redes sociales y sus algoritmos son previos a la IA generativa y es probable que no cambien. Se crearán nuevas plataformas basadas en la IA generativa, como Vibes para Meta y Sora para OpenAI, que está pensando en crear su propia red social. Ese es, por tanto, el siguiente paso.

Después de eso, es muy difícil hacer previsiones porque la tecnología evoluciona muy rápidamente. Estamos empezando a tener redes sociales creadas exclusivamente para agentes de IA [Molbook es la última sensación en este ámbito, aunque hay que relativizarla, nota del editor]. Se trata de otro paso en lo que podríamos llamar la «IA-ficación» de las redes sociales y la interacción social.

Empezamos con lo físico, luego pasamos a los comentarios entre humanos, luego a los creadores de contenido y al contenido mediatizado por algoritmos, luego a la IA generativa que produce todo el contenido para los humanos, y ahora tenemos plataformas de agentes que hablan con agentes. Es un cambio en los roles de la tecnología y los humanos.

La nueva Internet será en gran medida autónoma, pero no quiero hacer predicciones más allá de uno o dos años.

Con su organización, también está en primera fila para observar estos avances, así como sus desviaciones…

Hace unas semanas publicamos un informe sobre Grok [la IA de X, nota del editor] y su función de desvestir. Grok podía desnudar a los usuarios y se volvió viral.

Seguimos trabajando en la IA generativa y sus riesgos, en la responsabilidad algorítmica y estamos estudiando en detalle el caso de TikTok en Estados Unidos, porque creemos que es muy importante. Realizaremos pruebas adicionales para compararlas con el resto del mundo y ver qué cambia realmente.

También seguiremos de cerca las próximas elecciones, como las municipales francesas y las holandesas, que se celebrarán alrededor del 15 de marzo. También intentaremos seguir las elecciones de mitad de mandato en Estados Unidos para ver cómo se representan en las plataformas.