Созданные ИИ гиперреалистичные ведущие новостей одурачивают интернет

"Ошеломляющий шаг: Канада объявила войну США", - говорит светловолосая ведущая американских новостей в видеоролике, распространяемом по соцсетям от TikTok до X.

Глядя прямо в камеру, ведущая продолжает: "Давайте обратимся к Джо Брэкстону, который находится на границе". Те, кто дотянет до семисекундной отметки, больше других приблизятся к истине.

"Я сейчас на границе, но войны нет, - говорит репортер, а затем сообщает. - Мама, папа, я знаю, что это может выглядеть реально, но это всё создано искусственным интеллектом".

Ведущие в этих роликах демонстрируют такой же энтузиазм и дикцию, как и настоящие дикторы, они созданы искусственным интеллектом (ИИ).

Многие из этих роликов созданы с помощью Veo 3 - программного обеспечения Google для создания видео с помощью искусственного интеллекта, которое позволяет пользователям генерировать восьмисекундные ролики, синхронизируя аудио и видео.

С помощью этой технологии пользователи "заставляют" сфабрикованных ведущих произносить безумные вещи.

Как определить, что видео поддельное ?

Ряд признаков может помочь онлайн-пользователям определить, является ли видео с телеведущим настоящим. Один из признаков - то, что в этих видео многие "репортёры", якобы ведущие репортажи с места событий, держат один и тот же микрофон, на котором написано "NEWS".

Хотя многие телеканалы имеют термин "новости" в своем названии (например, BBC News, Fox News или Euronews), ни одно известное СМИ не называется просто "Новости".

В других случаях логотипы на микрофонах, одежде ведущих, а также на заднем плане и в бегущей строке на экране, представляют собой тарабарщину.

ИИ не в состоянии различить, что делает серию букв разборчивой, поскольку ориентируется в первую очередь на визуальные паттерны, а не на смысловое значение текста, поэтому часто генерирует неразборчивый текст.

Это связано с тем, что ИИ работает по принципу подсказки: если человек не вводит подсказку, в которой указано, какие слова должны быть включены в генерируемое видео, машина создаёт собственный текст.

Сфабрикованные ведущие новостей, используемые государствами

В последние годы всё больше аутентичных телеканалов экспериментируют с ИИ-ведущими, используя либо полностью сгенерированных персонажей, либо прося реальных людей подписать разрешение на использование их изображения или голоса. В октябре одна из польских радиостанций вызвала споры, уволив журналистов и запустив на этой неделе "ведущих" с искусственным интеллектом.

Государственные структуры также используют ИИ-ведущих для пропаганды.

Так в опубликованном в 2023 году докладе, аналитическая компания Graphika, специализирующаяся на ИИ, обнаружила, что фиктивный новостной канал под названием "Wolf News" продвигал интересы Коммунистической партии Китая с помощью распространяемых в соцсетях видеороликов и ведущих, сгенерированных ИИ.

ИИ-ведущие обходят репрессивную цензуру

ИИ-ведущие могут способствовать распространению фальшивых новостей и дезинформации, но в некоторых случаях они могут избавить журналистов, работающих при репрессивных режимах, от опасности публичного разоблачения.

В июле 2024 года президент Венесуэлы Николас Мадуро был переизбран в ходе выборов, омрачённых, по мнению правозащитных групп, фальсификациями.

После переизбрания Мадуро, находящийся у власти с 2013 года, еще больше ограничил свободу прессы, подвергая опасности работников СМИ.

Чтобы дать ему отпор, в августе 2024 года журналисты начали операцию Operación Retuit ("Операция ReTweet").

В серии из 15 видеороликов в стиле соцсетей сгенерированные ИИ женщина и мужчина по имени "Бестия" и "Бадди" рассказывают о политической ситуации в Венесуэле, делясь фактическими данными.