KI-generierte Moderatoren im Internet: Welcher News-Anchor ist echt?

"In einem erstaunlichen Schritt hat Kanada den USA den Krieg erklärt", sagt eine blonde US-amerikanische Nachrichtensprecherin in einem Video, das sich in den sozialen Medien von TikTok bis X verbreitet hat.

Die Moderatorin schaut direkt in die Kamera und fährt fort: "Schalten wir zu Joe Braxton, der live an der Grenze ist."

Aber diejenigen, die es bis zu Sekunde 7 des Videos schaffen, haben die größten Chancen, der Wahrheit näher zu kommen.

"Ich bin gerade an der Grenze, aber es gibt keinen Krieg", sagt der Reporter, bevor er verrät: "Mama, Papa, ich weiß, das sieht vielleicht echt aus, aber das ist alles KI."

Die Journalistinnen und Journalisten in diesen Clips sehen aus wie viele echte News-Anchor oder Nachrichtensprecher und sie sprechen wie sie, aber sie sind von künstlicher Intelligenz (KI) erzeugt.

Viele dieser Videos wurden mit Veo 3 erstellt, Googles Software zum Produzieren von KI-Videos, die es den Nutzern ermöglicht, Acht-Sekunden-Videos zu erstellen und dabei Audio und Video perfekt zu synchronisieren.

Mithilfe dieser Technologie bringen die Nutzer die Software dazu, gefälschte Nachrichtensprecher verrückte Dinge sagen zu lassen.

Wie kann man erkennen, dass die Videos gefälscht sind?

Es gibt eine Reihe von Auffälligkeiten, die Online-Nutzern helfen können zu erkennen, ob die Videos echt sind oder nicht.

Ein verräterischer Hinweis auf KI ist die Tatsache, dass in diesen Videos viele der "Reporter", die vor Ort zu berichten scheinen, dasselbe Mikrofon halten, auf dem einfach "NEWS" steht.

In Wirklichkeit tragen zwar viele Fernsehsender den Begriff "News" irgendwo in ihrem Namen (z. B. BBC News, Fox News oder Euronews), aber kein großer Sender heißt einfach nur "News".

In anderen Fällen sind die Logos, die auf den Mikrofonen, Notebooks und der Kleidung der Moderatoren sowie im Hintergrund und auf dem Bildschirm zu sehen sind, frei erfunden und entsprechen keinem wirklichen Nachrichtenportal.

KI spricht Kauderwelsch

Die künstliche Intelligenz ist nicht in der Lage zu erkennen, was eine Buchstabenfolge lesbar macht, weil sie sich in erster Linie auf visuelle Muster konzentriert und nicht auf die semantische Bedeutung von Text. Dies führt dazu, dass sie häufig unleserlichen Text erzeugt.

Das liegt daran, dass die KI auf der Grundlage von Prompts - also von Fragen oder Aufforderungen der Nutzer und Nutzerinnen - arbeitet. Wenn also eine Person einen Prompt eingibt, der nicht ausdrücklich erklärt, welche Wörter in dem von ihr erzeugten Video enthalten sein sollen, erzeugt die Maschine ihren eigenen Text. Eine Art Kauderwelsch.

Von Staaten eingesetzte Deepfake-Nachrichtensprecher

In den letzten Jahren haben immer mehr authentische Fernsehsender mit KI-Nachrichtensprechern oder Moderatoren experimentiert. Dabei gibt es Tests mit von der KI geschaffenen Kunstfiguren. Oder die Sender bitten eine echte Person, ihr Bild in den KI-Videos zu nutzen.

Im Oktober 2024 löste ein polnischer Radiosender eine Kontroverse aus: Journalisten wurden entlassen und das Programm ging mit KI-"Moderatoren" neu an den Start.

Aber auch staatliche Akteure nutzen KI-Moderatoren, um Propaganda zu verbreiten. So deckte das KI-Analyseunternehmen Graphika in einem 2023 veröffentlichten Bericht auf, dass ein fiktiver Nachrichtensender mit dem Namen "Wolf News" die Interessen der Kommunistischen Partei Chinas durch Videos in den sozialen Medien fördert, die von KI-generierten Moderatoren präsentiert werden.

Wenn die KI Regimegegnern hilft...

Auch wenn KI-Moderatoren die Verbreitung von Fake News und Desinformationen fördern können, helfen sie in einigen Fällen Journalisten in repressiven Regimen.

Im Juli 2024 wurde Venezuelas Präsident Nicolas Maduro in einer heftig umstrittenen Wahl wiedergewählt, die nach Angaben von Menschenrechtsgruppen von Wahlbetrug überschattet war.

Nach seiner Wiederwahl ging Maduro - der seit 2013 an der Macht ist - noch härter gegen die Press, Journalisten und Medienschaffende vor.

Um sich dagegen zu wehren, starteten Journalisten im August 2024 die Operation Retuit (Operation ReTweet). In einer Reihe von 15 prägnanten Videos im Stil der sozialen Medien berichten die KI-generierte Moderatorin und der Moderator namens "Bestie" und "Buddy" über die politische Lage in Venezuela und teilen Fakten.