Estudo liga conteúdos “slop” de IA a declínio cognitivo e tendências violentas em crianças

O conteúdo “slop” gerado por IA, em particular vídeos de frutas animadas produzidos por sistemas de inteligência artificial, pode contribuir para um declínio cognitivo significativo e para tendências violentas entre crianças, segundo uma nova investigação.

A análise da Global Network on Extremism and Technology (GNET) conclui que estes vídeos de frutas animadas gerados por IA, hoje omnipresentes nos feeds das crianças em todo o mundo, podem servir para propagar de forma discreta “conteúdos violentos e extremistas”.

“Slop” de IA designa especificamente conteúdos gerados por inteligência artificial produzidos em massa, altamente repetitivos e de baixa qualidade, que quase não têm intervenção humana. Estes conteúdos privilegiam sobretudo visualizações, cliques, interação e receitas publicitárias, sendo criados a custos muito reduzidos.

Assim, um único criador pode produzir centenas destes vídeos curtos, inundando várias plataformas com grandes quantidades de conteúdo. Como muitas redes sociais recompensam a atividade constante e as publicações frequentes, esta estratégia torna-se altamente eficaz para chegar a milhões de crianças em todo o mundo.

Isto pode contribuir para o declínio cognitivo, ou “brain rot”, expressão que remete para os efeitos culturais e psicológicos do consumo excessivo de conteúdos rápidos, hiperstimulantes e intencionalmente vazios, muitas vezes absurdos e construídos para explorar hábitos como o scroll infinito e a busca de descargas imediatas de dopamina.

A proliferação de aplicações baratas, fáceis de aprender e muito práticas, como PixVerse, VeoE.ai, Media.io e Sora, também tem alimentado o aumento acentuado deste tipo de conteúdos gerados por IA nos últimos anos.

Conteúdo “slop” de IA alimenta radicalização online

O “slop” de IA pode difundir de forma encoberta conteúdos com potencial de radicalização online, através de vídeos que inicialmente parecem inofensivos, absurdos ou até cómicos, como vídeos de frutas e legumes animados.

Este tipo de conteúdos apresenta frequentemente narrativas dramáticas envolvendo romance, conflitos domésticos, traição e infidelidade, entre outros enredos protagonizados por frutas animadas aparentemente inocentes. Podem representar níveis elevados de agressividade e violência emocional e ser altamente hiperstimulantes para mentes impressionáveis, através dos seus padrões narrativos.

Em muitos casos, estes vídeos são usados para glorificar, celebrar e difundir o extremismo violento e ataques terroristas, recorrendo a vídeos apelativos que se apoiam em tendências e temas virais online.

Os vídeos sangrentos de frutas e legumes gerados por IA incluem frequentemente cenas de tortura, mutilação extrema e violência hiper-realista, capazes de dessensibilizar significativamente o público ao esconder-se por detrás da familiaridade destas personagens animadas.

Podem também mostrar assassínios, eventos com múltiplas vítimas e homicídios brutais, por exemplo uma fruta a assassinar outra com uma arma.

Em muitos casos, estes vídeos partilham características com conteúdos de organizações extremistas que promovem ideologias de extrema-direita, niilistas ou violentas, bem como com cartéis criminosos.

Por exemplo, uma personagem popular, Carrot Khalifah, é frequentemente mostrada a dizer a um exército num vídeo que “o Estado Cenoura voltará a erguer-se”, ecoando a ideologia e a propaganda conhecidas do Estado Islâmico (EI).

Embora plataformas como o TikTok tenham políticas para impedir a circulação de conteúdos extremamente violentos, estas medidas não são infalíveis, já que os geradores de IA conseguem contorná-las e esconder-se sob a aparência de conteúdos aparentemente inocentes.

Este texto foi traduzido com a ajuda de inteligência artificial. Comunicar um problema : [feedback-articles-pt@euronews.com].