Violencia de género facilitada por la tecnología: deepfakes

Las manifestaciones de la violencia de género son múltiples y, ahora, potenciadas por el uso de la tecnología y la inteligencia artificial (IA). Los escándalos de fotos y videos íntimos filtrados a la Internet (por parejas o personas en las que se confiaba) muestran cómo el alcance de este daño resulta inconmensurable. La afectación a la reputación y a la protección personal es permanente, y con pocos recursos para el resarcimiento legal.

En ese contexto, Witness[1], organización internacional que utiliza la tecnología como medio para la defensa de los derechos humanos, ha presentado recientemente un informe con recomendaciones al Comité Asesor del Consejo de DDHH de Naciones Unidas, destacando las brechas en el actual marco internacional en la materia y ofreciendo estrategias para fortalecer las respuestas globales a la violencia de género digital.

El uso indebido de la IA generativa para crear deepfakes[2] no consentidos de contenido sexual es cada vez más común. En particular, esta modalidad está siendo utilizada contra mujeres líderes políticas y activistas con el objetivo de desacreditar su autoridad e influencia, destruyendo la confianza pública ganada.

Asumiendo la gravedad y las implicaciones en una serie de derechos fundamentales, como los derechos políticos de las mujeres, Witness ha también creado el Grupo de Respuesta Rápida de Deepfakes (DRRF), el que analiza deepfakes en tiempo real en contextos electorales y de conflicto a nivel mundial y, al mismo tiempo, el impacto de las falsedades generadas por IA en el ecosistema de la información, en la democracia y en los derechos humanos.

Algunas de las recomendaciones a Naciones Unidas son las siguientes:

• Establecer mecanismos internacionales que ayuden a garantizar la rendición de cuentas por parte de las compañías tecnológicas en relación con el uso indebido de contenidos generados por IA. Además, implementar regulaciones vinculantes que requieran transparencia en los mecanismos de apropiación y en las prácticas de desarrollo de IA. Y,
• Regulaciones centradas en las personas víctimas que contemplen interoperabilidad, eliminación rápida de contenidos perjudiciales y recursos legales prontos y accesibles.

Ser víctima de un atentado viralizado a la imagen personal puede ser el delito de mayor gravedad de la era digital, con un impacto desproporcionado en mujeres. Las regulaciones no deben hacerse esperar.

[1] https://drive.google.com/file/d/1I_hGIbXZAemxCjfgrIW31voJ47hQ8RZ6/view.

[2] Imágenes, videos o audio generados o manipulados por la IA generativa que simulan situaciones reales sin serlo, muchas veces de contenido sexual explícito.