La 'basura de IA' conquista el contenido infantil y abre la puerta a mensajes violentos y extremistas

La llamada basura de IA, en especial los vídeos de frutas animadas generados con inteligencia artificial, está contribuyendo a un acusado deterioro cognitivo y a conductas violentas entre los niños, según una nueva investigación.

El análisis, elaborado por la Global Network on Extremism and Technology (GNET), concluye que los vídeos de frutas animadas generados con IA, hoy omnipresentes en los canales de contenido infantil en todo el mundo, podrían ser una vía para difundir de forma encubierta "contenido violento y extremista".

La basura de IA se refiere específicamente a contenido generado con inteligencia artificial producido en masa, muy repetitivo y de baja calidad, que suele tener poco o ningún aporte humano. Este tipo de piezas prioriza únicamente las visualizaciones, los clics, la interacción y los ingresos publicitarios, y se produce a un coste muy reducido.

Así, un solo creador puede llegar a producir cientos de estos vídeos cortos y saturar varias plataformas con enormes cantidades de contenido. Como muchas redes sociales premian la actividad constante y las subidas continuas, esta estrategia resulta muy eficaz para alcanzar a millones de niños en todo el mundo.

Esto contribuye al deterioro cognitivo, o lo que muchos llaman "brain rot", que alude a los efectos culturales y psicológicos de consumir en exceso contenidos rápidos, sobreestimulantes y deliberadamente vacíos, a menudo absurdos y basados en hábitos como el desplazamiento interminable de la pantalla y la búsqueda de descargas instantáneas de dopamina.

El auge de aplicaciones baratas, fáciles de usar y muy accesibles como PixVerse, VeoE.ai, Media.io y Sora también ha contribuido al fuerte aumento de este tipo de contenido generado con IA en los últimos años.

Cómo la basura de IA contribuye a la radicalización en línea

La basura de IA puede difundir de forma encubierta contenido en línea con capacidad de radicalizar a través de vídeos que en un primer momento parecen inofensivos, absurdos o incluso divertidos, como las piezas de frutas y verduras animadas.

Este tipo de contenidos suele incorporar narrativas dramáticas con romances, conflictos domésticos, traiciones e infidelidades, entre otras tramas protagonizadas por frutas animadas en apariencia inocentes. Pueden mostrar una agresividad notable y violencia emocional, además de resultar muy sobreestimulantes para las mentes más impresionables por los patrones de relato que utilizan.

En muchos casos, estos vídeos se utilizan también para glorificar, celebrar y difundir el extremismo violento y atentados terroristas, mediante piezas llamativas que se aprovechan de tendencias y temas virales en internet.

A menudo, las versiones más sangrientas de estas frutas y verduras generadas con IA incluyen torturas, mutilaciones extremas y violencia hiperrealista, lo que puede insensibilizar de forma considerable al público al ocultarse tras la familiaridad de estos personajes animados.

También pueden mostrar asesinatos, matanzas con numerosas víctimas y homicidios brutales, por ejemplo una fruta que asesina a otra con un arma.

En muchos casos, estos vídeos comparten rasgos con las organizaciones extremistas que promueven ideologías de extrema derecha, nihilistas o violentas, así como con los cárteles criminales.

Por ejemplo, un personaje muy popular, Carrot Khalifah, suele aparecer dirigiéndose a un ejército en un vídeo y proclamando que "el Estado Zanahoria volverá a levantarse", un mensaje que recuerda a la ideología y la propaganda conocidas del grupo Estado Islámico (IS).

Aunque plataformas como TikTok cuentan con políticas para impedir la difusión de este tipo de contenidos extremadamente violentos, estas no son infalibles, ya que los generadores de IA pueden eludirlas y ocultarse bajo la apariencia de vídeos en principio inocuos.

Este texto fue traducido con la ayuda de inteligencia artificial. Informar de un problema : [feedback-articles-es@euronews.com].