Vídeos sexualizados de menores generados con IA llegan a TikTok y enlazan en comentarios a grupos de pornografía infantil

Los vídeos generados por inteligencia artificial (IA) que muestran a chicas jóvenes en ropa o posturas reveladoras han ganado millones de "me gusta" y compartidos en TikTok a pesar de que ese contenido está prohibido, según un informe.

'Maldita', una organización española de verificación de hechos, ha descubierto más de 20 cuentas en la plataforma que han publicado más de 5.200 vídeos de chicas jóvenes en bikini, con uniformes escolares y ropa ajustada. En total, estas cuentas suman ya más de 550.000 seguidores y casi 6 millones de "me gusta".

En los comentarios hay enlaces a plataformas externas como comunidades de Telegram que venden pornografía infantil, según muestra el análisis. 'Maldita' ha informado a la Policía española de los 12 grupos de Telegram encontrados en su estudio.

Las cuentas también generan beneficios vendiendo vídeos e imágenes generados por IA a través del servicio de suscripción de TikTok, que paga a los creadores una cuota mensual por acceder a sus contenidos. La plataforma obtiene aproximadamente el 50 por ciento de los beneficios a través de este modelo, según su acuerdo con los creadores.

El informe llega en un momento en que países de todo el mundo, como Australia, Dinamarca y la Unión Europea, han impuesto restricciones a los usuarios menores de 16 años en las redes sociales o están debatiéndolas como forma de mantener a los jóvenes seguros en línea.

TikTok exige a los creadores de contenidos que indiquen si se ha utilizado IA en la creación de un vídeo. El contenido también puede ser retirado de la plataforma de medios sociales si se considera "perjudicial para las personas", según sus directrices comunitarias.

Sin embargo, el informe de 'Maldita' descubrió que la mayoría de los vídeos analizados no llevaban ninguna marca de agua u otra identificación que indicara que se había utilizado IA en ellos. Algunos vídeos tenían una marca de agua "TikTok AI Alive", que se utiliza automáticamente para tomar imágenes fijas y convertirlas en vídeos dentro de la plataforma.

'Euronews Next' se puso en contacto con Telegram y TikTok para conocer su reacción al informe, pero no recibió una respuesta inmediata. TikTok dijoa 'CNN' que había eliminado más de 189 millones de vídeos y baneado más de 108 millones de cuentas entre abril y junio de 2025.

El 99% de los contenidos perjudiciales para los menores se eliminaron automáticamente, y otro 97% de los contenidos ofensivos generados por IA también se eliminaron de forma proactiva.