La extrema derecha, incluida la Agrupación Nacional francesa, utilizó la IA para sus mensajes políticos

Según dos nuevos informes, los partidos europeos de extrema derecha han utilizado imágenes generadas por inteligencia artificial (IA) para apoyar sus mensajes políticos, pero es difícil evaluar cómo pueden haber influido esas imágenes en las recientes elecciones francesas y europeas.

La organización sin ánimo de lucro 'AI Forensics' examinó las páginas de redes sociales de 31 partidos políticos franceses para determinar si habían detectado contenidos generados por IA (genAI) entre el 1 de mayo y el 28 de junio, durante las elecciones europeas y la primera vuelta de la campaña legislativa francesa.

A continuación, introdujeron esas imágenes en motores de búsqueda relacionados con la IA para verificar que las había creado una herramienta de IA.

En total, el equipo de descubrió 51 casos de imágenes de IA generativa utilizadas por partidos franceses, siendo la Agrupación Nacional (RN) de extrema derecha, 'Reconquête' y 'Les Patriotes' los más implicados, aunque los investigadores afirmaron que se trata de una estimación conservadora.

"Este es el primer ciclo electoral en el que la IA (generativa) existe, pero estamos seguros de que en los próximos años se utilizará cada vez más", declaró a 'Euronews Next' Salvatore Romano, investigador de AI Forensics.

"Si no somos capaces de gestionar esto ahora cuando la escala es tan pequeña... será más difícil de gestionar cuando la tecnología sea indistinguible del contenido real", añadió.

Los ultraderechistas de RN se impusieron en la primera vuelta de las elecciones francesas, el pasado domingo, con el 33% de los votos, y en las europeas de junio, donde obtuvieron el 31,5% de los sufragios.

Dónde apareció el contenido de IA

La mayoría de las imágenes de campaña generadas por IA y utilizadas por los partidos franceses "transmiten mensajes de antiinmigración, falta de seguridad en Francia, falta de libertad de expresión, un sistema judicial defectuoso y escasa protección de la agricultura", según el informe de 'AI Forensics'.

"[Las imágenes] se utilizan como técnica de alarmismo para decir que Francia no es segura en la UE, y eso se ceba mucho con las personas vulnerables de nuestra sociedad", añadió Miazia Schüler, investigadora de AI Forensics.

Estas imágenes tenían a menudo un aspecto "hiperrealista", en el que el usuario medio podía ver claramente que habían sido creadas por la IA, explicó Schüler.

Otras eran sutiles, como imitaciones de caricaturas políticas de los periódicos.

Algunos partidos, como el ultraderechista 'Reconquête', también utilizaron IA generativa para crear imágenes del presidente francés Emmanuel Macron y de la comisaria europea Ursula Von Der Leyen.

Durante la campaña de la UE, la RN creó un sitio web llamado "Europa sin ellos" en vísperas de las elecciones que cuestionaba de forma similar las posiciones de liderazgo de Macron y Von Der Leyen, según un estudio del Laboratorio de Investigación Forense Digital ('DFRLabs') del Atlantic Council.

El sitio web, aún en funcionamiento, tiene al menos tres imágenes generadas por IA: muestra peticiones contra "el desprecio de la UE por los pueblos, la inmigración masiva y la promoción del hiyab", según su informe.

Sólo la punta del iceberg

El investigador del Atlantic Council Valentin Chatelet dijo que es "difícil" saber cuánto impacto tuvo este tipo de contenido generado por IA en el éxito de RN tanto en las elecciones de la UE como en las francesas.

"Creo que está influyendo positivamente en los materiales que el partido utiliza para transmitir una idea concreta, como la postura particular de Bardella sobre un tema", afirma Chatelet.

"Las imágenes (generadas por IA) también se utilizan para escandalizar a la gente... hasta que se convierten en la corriente dominante", añadió.

'Euronews Next' se puso en contacto con los partidos políticos 'Agrupación Nacional' (RN), 'Identidad y Democracia', 'Patriotas' y 'Reconquista', pero no obtuvo respuesta.

Los candidatos de la RN han recibido formación sobre IA, incluido el uso del ChatGPT, desde enero de 2024, según la cadena francesa 'BFMTV'. En su folleto de formación, se dan ejemplos de cómo la IA puede ayudar a los candidatos políticos, como la creación de carteles de campaña y la búsqueda de argumentos para los debates, informó la emisora.

Ni el estudio de AI Forensics ni el 'DFRLabs' del Atlantic Council analizaron los mensajes personales de los candidatos ni los contenidos creados por las bases de seguidores de los partidos.

Romano cree que su estudio es "sólo la punta del iceberg" de la cantidad de contenido electoral de IA sin etiquetar que circula por las plataformas de las redes sociales.

Negligencia crítica de las empresas tecnológicas en el uso de la IA

El informe de AI Forensics concluye que ninguna de las imágenes generadas por IA estaba etiquetada como tal.

"Nuestros hallazgos revelan una negligencia crítica por parte de los partidos políticos y las plataformas a la hora de adherirse a los compromisos de etiquetar las imágenes generadas por IA en sus campañas políticas, lo que subraya la urgente necesidad de transparencia", se lee en el informe.

Grandes empresas tecnológicas como Google, OpenAI, Meta y TikTok firmaron en febrero un acuerdo de tecnología abierta que "establece las expectativas sobre cómo los firmantes gestionarán... los contenidos electorales engañosos generados por IA" en sus plataformas antes de las elecciones europeas.

El primer compromiso de este acuerdo es que las plataformas "(identificarán) imágenes realistas generadas por IA y/o (certificarán) la autenticidad del contenido y su origen", reza una copia del acuerdo.

También prometieron revisar sus modelos para "comprender los riesgos que pueden presentar" los contenidos engañosos generados por IA.

Algunos partidos políticos firmaron su propia versión de este acuerdo con la Comisión Europea, en la que afirmaban estar "comprometidos a prevenir el engaño deliberado al público, incluso mediante el uso de inteligencia artificial", reza una copia del mismo.

El grupo 'Identidad y Democracia' (ID) del Parlamento Europeo firmó este código de conducta, del que forma parte RN. Los demás partidos nacionales franceses no lo hicieron.

Romano dijo que AI Forensics enviará su informe a la Comisión Europea con la esperanza de que haya algún tipo de repercusión contra los partidos por incumplir estos códigos de conducta.