Видео "переворота" в Париже: Макрон стал мишенью видео, сгенерированного ИИ

Президент Франции Эммануэль Макрон узнал о новости о своём предполагаемом свержении после того, как получил сообщение с выражением обеспокоенности и ссылкой на видео в Facebook.

"В воскресенье [14 декабря] один из моих африканских коллег вышел на связь и написал: "Дорогой президент, что с вами происходит? Я очень обеспокоен", - сообщил Макрон читателям французской газеты La Provence 16 декабря.

Вместе с посланием в газете появилось эффектное видео: кружащийся вертолет, военные, толпы людей, а женщина, похожая на ведущую новостей, передает материал на камеру.

"По неофициальным данным, во Франции произошел переворот, возглавляемый полковником, личность которого не раскрывается, и возможно падение Эммануэля Макрона. Однако власти не сделали чёткого заявления", - говорит она.

Вот только ничто в этом ролике не является подлинным: на самом деле он был создан с помощью искусственного интеллекта.

Узнав о видео, Макрон попросил Pharos — официальный французский портал по выявлению незаконного онлайн‑контента — связаться с материнской компанией Facebook, Meta, и потребовать удалить фальшивый ролик.

Но просьба была отклонена: платформа заявила, что видео не нарушает ее "правил использования".

Тогда президент Франции решил добиться его удаления лично.

"Я склонен думать, что у меня больше возможностей для давления, чем у других людей, - сказал Макрон. - Или, скорее, что легче придать делу серьёзности, если звоню я сам. Но это не работает".

"Эти люди издеваются над нами, - добавил он. - Им плевать на культуру взвешенных публичных дебатов, они насмехаются на суверенностью демократий, и поэтому они подвергают нас опасности".

Так кто же стоит за этими фальшивыми видео?

Оригинальное видео, которое быстро набрало более 12 миллионов просмотров, было изначально размещено в Facebook аккаунтом "Ислам", который, несмотря на свое название, не размещает религиозный контент.

Аккаунтом управляет подросток из Буркина‑Фасо, зарабатывающий на продаже курсов по монетизации искусственного интеллекта.

В итоге он удалил видео, но только более чем через неделю после его первоначальной публикации - из-за политических и общественных разногласий.

Команда Euronews по проверке фактов, The Cube, неоднократно пыталась связаться с ним по номеру, указанному в его аккаунте на Facebook, но пока безуспешно.

На некоторых роликах сгенерированные ИИ «ведущие новостей» держат в руках микрофон с логотипом Radio France Internationale (RFI), международного подразделения французского общественного радио.

На некоторых видео присутствует водяной знак "Sora", что говорит о том, что большая часть этого контента, скорее всего, была создана с использованием этой технологии.

Технология Sora 2, созданная OpenAI - той же компанией, которая основала Chat GPT, - позволяет пользователям генерировать 10-секундные гиперреалистичные видеоролики на основе текстовых подсказок.

Хотя на других видео логотип не отображается, его можно удалить во время пост-продакшена.

С момента своего появления в октябре технология вызвала споры, что привело к распространению в социальных сетях очень сложных и трудноразличимых видеороликов с искусственным интеллектом.