Исследование: AI‑«слоп» может вызывать когнитивный упадок и агрессию у детей

Так называемый «AI‑мусор», особенно сгенерированные ИИ ролики с анимированными фруктами, может способствовать заметному снижению когнитивных способностей и росту агрессивности у детей, говорится в новом исследовании.

Согласно анализу, проведенному Глобальной сетью по изучению экстремизма и технологий (Global Network on Extremism and Technology, GNET), такие ролики с анимированными фруктами, созданными с помощью ИИ и сегодня заполонившими ленты детей по всему миру, могут использоваться для скрытого распространения «насильственного и экстремистского контента».

Под «AI‑мусором» обычно понимают массово штампуемый, крайне повторяющийся и низкокачественный контент, создаваемый ИИ, в котором практически нет человеческого участия. В центре такого продукта — просмотры, клики, вовлечённость и рекламная выручка, а производить его очень дёшево.

Один создатель может выпускать сотни таких коротких роликов, заливая ими сразу несколько платформ. Поскольку многие социальные сети поощряют постоянную активность и загрузку нового контента, такая стратегия оказывается весьма эффективной для охвата миллионов детей по всему миру.

Это может способствовать когнитивному упадку или «brain rot» — так называют культурные и психологические последствия потребления чрезмерного объёма быстрых, чрезмерно стимулирующих, намеренно бессмысленных медиа, зачастую абсурдных и рассчитанных на бесконечный скроллинг и погоню за мгновенными дофаминовыми всплесками.

Рост доступных, простых в освоении и крайне удобных приложений, таких как PixVerse, VeoE.ai, Media.io и Sora, также подпитал резкий всплеск подобного контента, создаваемого ИИ, в последние годы.

Как «AI‑мусор» способствует радикализации в интернете

«AI‑мусор» может скрытно распространять радикализирующий контент через ролики, которые на первый взгляд кажутся безобидными, абсурдными или даже забавными, например видео с анимированными фруктами и овощами.

В подобных видео нередко разворачиваются драматические сюжеты о романах, семейных конфликтах, предательстве и изменах, которые разыгрывают, казалось бы, невинные анимированные фрукты. В них много агрессии и эмоционального насилия, а манера повествования может оказывать чрезмерное воздействие на внушаемую детскую психику.

Во многих случаях такие ролики используют и для прославления, героизации и распространения насильственного экстремизма и терактов, упаковывая их в броскую форму и привязывая к вирусным онлайн‑трендам и популярным темам.

Кровавые сцены с фруктами и овощами, созданные ИИ, нередко включают пытки, жестокие увечья и гиперреалистичное насилие, что может сильно притуплять чувствительность аудитории, маскируясь под знакомых анимированных персонажей.

В них могут показываться убийства, массовые расправы и жестокие расправы, например когда один фрукт убивает другой с помощью оружия.

Во многих случаях такие видео напоминают продукцию экстремистских организаций, продвигающих крайне правые, нигилистические или насильственные идеологии, а также уголовных картелей.

Например, популярный персонаж Carrot Khalifah нередко изображается в роликах, где он говорит армии: «Морковное государство восстанет снова», что перекликается с идеологией и пропагандой «Исламского государства» (ИГ).

У таких платформ, как TikTok, формально есть правила, призванные предотвращать распространение подобного крайне жестокого контента, однако они далеки от совершенства: ИИ‑генераторы позволяют обходить ограничения, маскируя такие ролики под внешне безобидные.

Этот текст был переведен с помощью искусственного интеллекта. Сообщить о проблеме : [feedback-articles-ru@euronews.com].