Tausende KI-Videos mit sexualisierten Minderjährigen auf TikTok geteilt

Mit künstlicher Intelligenz (KI) erzeugte Videos, die junge Mädchen in freizügiger Kleidung oder suggestiven Posen zeigen, haben laut einem Bericht Millionen Likes und Shares auf TikTok erhalten – obwohl diese Inhalte verboten sind.

Die spanische Faktencheck-Organisation Maldita identifizierte mehr als 20 Konten, die insgesamt über 5.200 Videos mit jungen Mädchen in Bikinis, Schuluniformen oder enger Kleidung veröffentlicht hatten. Zusammen verzeichnen diese Accounts bereits mehr als 550.000 Follower und fast 6 Millionen Likes.

In den Kommentarspalten fanden sich zudem Links zu externen Plattformen, darunter Telegram-Communities, in denen laut Analyse auch kinderpornografische Inhalte verkauft werden. Maldita gab an, die zwölf in ihrer Untersuchung identifizierten Telegram-Gruppen bereits der spanischen Polizei gemeldet zu haben.

Einige der Konten verdienen außerdem Geld, indem sie KI-generierte Videos und Bilder über TikToks Abonnementdienst anbieten. Für den Zugang zu diesen Inhalten zahlen Nutzer eine monatliche Gebühr – Einnahmen, die sich Plattform und Urheber etwa zu gleichen Teilen teilen.

Der Bericht erscheint in einer Phase, in der weltweit – unter anderem in Australien, Dänemark und der Europäischen Union – Maßnahmen umgesetzt oder diskutiert werden, um Minderjährige in sozialen Medien besser zu schützen, etwa durch strengere Altersbeschränkungen für Unter-16-Jährige.

TikTok schreibt vor, dass Creators ihre Inhalte kennzeichnen müssen, wenn KI bei der Erstellung zum Einsatz kam. Außerdem können Videos entfernt werden, wenn sie als „schädlich für Personen“ gelten, wie es in den Community-Richtlinien heißt.

Laut Maldita fehlten jedoch bei den meisten der untersuchten Videos sowohl Wasserzeichen als auch andere Hinweise auf KI-Einsatz. Vereinzelt war lediglich das automatische Wasserzeichen „TikTok AI Alive“ zu sehen, das genutzt wird, um Standbilder innerhalb der App in kurze Videos zu verwandeln.

Euronews Next bat TikTok und Telegram um eine Stellungnahme, erhielt jedoch zunächst keine Antwort.

Gegenüber CNN erklärte TikTok, zwischen April und Juni 2025 mehr als 189 Millionen Videos entfernt und über 108 Millionen Konten gesperrt zu haben. Von den jugendgefährdenden Inhalten seien 99 Prozent automatisch gelöscht worden; zudem wurden 97 Prozent der gegen Richtlinien verstoßenden KI-generierten Inhalte proaktiv entfernt.