Des milliers de vidéos IA mettant en scène des mineurs sexualisés partagées sur TikTok (rapport)

Selon un rapport, des vidéos générées par l'intelligence artificielle (IA) montrant des jeunes filles dans des vêtements ou des positions révélatrices ont gagné des millions de likes et de partages sur TikTok malgré l'interdiction de ce contenu.

L'organisation espagnole de vérification des faits, Maldita, a trouvé plus de 20 comptes sur la plateforme qui ont publié plus de 5 200 vidéos montrant des jeunes filles portant des bikinis, des uniformes scolaires et des vêtements moulants. Au total, ces comptes comptent déjà plus de 550 000 adeptes et près de 6 millions de "likes".

Les commentaires contiennent des liens vers des plateformes externes telles que des communautés Telegram qui vendent de la pornographie enfantine, selon l'analyse. Maldita a déclaré avoir signalé à la police espagnole les 12 groupes Telegram découverts dans son étude.

Les comptes génèrent également des profits en vendant des vidéos et des images générées par l'IA par l'intermédiaire du service d'abonnement de TikTok, qui verse aux créateurs une redevance mensuelle pour l'accès à leur contenu. La plateforme perçoit environ 50 % des bénéfices grâce à ce modèle, conformément à l'accord conclu avec les créateurs.

Ce rapport intervient alors que des pays du monde entier, tels que l'Australie, le Danemark et l'Union européenne, ont mis en place des restrictions sur les médias sociaux pour les utilisateurs de moins de 16 ans ou sont en train d'en discuter afin d'assurer la sécurité des jeunes en ligne.

TikTok demande aux créateurs de contenu d'indiquer si l'IA a été utilisée dans la création d'une vidéo. Le contenu peut également être retiré de la plateforme de médias sociaux s'il est considéré comme "préjudiciable aux individus", conformément aux lignes directricesde la communauté.

Toutefois, le rapport de Maldita a révélé que la plupart des vidéos analysées ne comportaient pas de filigrane ou d'autres éléments permettant d'identifier l'utilisation de l'IA.

Certaines vidéos comportaient un filigrane "TikTok AI Alive" qui est automatiquement utilisé pour prendre des images fixes et les transformer en vidéos sur la plateforme.

Dans une déclaration à Euronews Next, Telegram et TikTok affirment qu'ils sont "pleinement engagés" dans la prévention des contenus pédopornographiques sur leur plateforme.

Telegram analyse tous les médias téléchargés sur sa plateforme publique et les compare aux contenus pédopornographiques déjà retirés de la plateforme afin d'empêcher leur diffusion.

"Le fait que les criminels doivent utiliser des groupes privés et les algorithmes d'une autre plateforme pour se développer prouve l'efficacité de la modération de Telegram", peut-on lire dans la déclaration.

Telegram a déclaré avoir supprimé plus de 909 000 groupes et canaux contenant des contenus pédophiles en 2025.

Quant à TikTok, il a déclaré que 99 % des contenus préjudiciables aux mineurs sont supprimés automatiquement et que 97 % des contenus offensants générés par l'IA ont également été supprimés de manière proactive.

La plateforme affirme qu'elle réagit immédiatement pour supprimer ou fermer les comptes qui partagent des contenus sexuellement explicites d'enfants et le signale au National Center for Missing and Expolited Children (NCMEC) des États-Unis.

TikTok a également déclaré à CNN avoir supprimé plus de 189 millions de vidéos et banni plus de 108 millions de comptes entre avril et juin 2025.