Este año, más de cuatro mil millones de personas de todo el mundo acudirán a las urnas para elegir a sus representantes: algo más de la mitad de la población mundial. Las elecciones de Estados Unidos, India, la Unión Europea y México están amenazadas por la desinformación vinculada a la inteligencia artificial. Las imágenes falsas creadas por la IA podrían manipular el voto. Esta situación está poniendo a OpenAI, la empresa detrás de ChatGPT, bajo la lupa de las autoridades. Tanto es así que el grupo intenta tranquilizar anunciando nuevas medidas.
Un vídeo de Marine le Pen hablando en ruso, una foto de Donald Trump detenido por la policía o Emmanuel Macron recogiendo basura. Todas ellas son imágenes creadas por la inteligencia artificial (IA) que podrían influir en los votantes.
"Persuasión personalizada"
En un artículo publicado en su blog, OpenAI, la empresa matriz de ChatGPT y DALL-E, su servicio de creación de imágenes, intenta apagar el incendio. El grupo anuncia una nueva herramienta para detectar imágenes generadas por inteligencia artificial y también pretende introducir un icono específico en la parte inferior de las fotos creadas por IA.
"Queremos asegurarnos de que nuestra tecnología no se use para socavar" procesos democráticos, afirmó OpenAI en un blog. "Todavía estamos trabajando para comprender la eficacia de nuestras herramientas para la persuasión personalizada. Hasta que sepamos más, no permitimos construir aplicaciones para campañas políticas y grupos de presión", añadió la firma.
Coalición para la Autenticidad y Procedencia de los Contenidos
"A principios de este año implantaremos las credenciales digitales de la Coalition for Content Provenance and Authenticity (Coalición para la Autenticidad y Procedencia de los Contenidos), un enfoque que codifica los detalles sobre la procedencia de los contenidos mediante criptografía", declaró la empresa.
La coalición, también conocida como C2PA, pretende mejorar la identificación y rastreo de contenidos digitales. Entre sus miembros figuran grandes empresas como Microsoft, Sony, Adobe y las japonesas especializadas en imagen Nikon y Canon.
Según OpenAI, el ChatGPT dirigirá a los usuarios a sitios web autorizados cuando se le planteen preguntas de procedimiento sobre las elecciones estadounidenses; por ejemplo, dónde votar.
"Las conclusiones de este trabajo servirán de base para nuestro enfoque en otros países y regiones", afirmó la empresa. Acotó que DALL-E 3 cuenta con "guardavallas" para impedir que se generen imágenes de personas reales, incluidos candidatos.
El anuncio de OpenAI sigue a las medidas tomadas por gigantes tecnológicas como Google y la red social Facebook, para limitar la interferencia electoral, especialmente mediante el uso de la IA.