Clonar nuestra cara y voz cada vez es más fácil: así lucha Dinamarca contra los 'deepfakes'
En 2021, la 'streamer' danesa de videojuegos Marie Watson recibió una imagen suya de una cuenta desconocida de Instagram. La 'gamer' reconoció al instante la foto de vacaciones de su cuenta de Instagram, pero algo era distinto: le habían quitado la ropa de forma digital para hacerla parecer desnuda. Era un 'deepfake'.
"Me sobrepasó muchísimo", recordó Watson. "Me puse a llorar de repente, porque de pronto estaba ahí desnuda". En los cuatro años transcurridos desde esta experiencia, los 'deepfakes', imágenes, vídeos o audios muy realistas de personas o hechos reales generados por inteligencia artificial (IA), no solo se han vuelto más fáciles de crear en todo el mundo, también parecen o suenan exponencialmente más reales.
Se debe a los avances tecnológicos y a la proliferación de herramientas de IA generativa, incluidas las de generación de vídeo de OpenAI y Google. Estas herramientas permiten a millones de usuarios producir contenido con facilidad, también con fines ilícitos que van desde recrear a celebridades como Taylor Swift y Katy Perry hasta alterar elecciones y humillar a adolescentes y mujeres.
Ley de derechos de autor
Como respuesta, Dinamarca busca proteger tanto a los ciudadanos de a pie como a los artistas cuya apariencia o voz puedan ser imitadas y difundidas sin permiso.
Un proyecto de ley que se espera aprobar a comienzos del próximo año modificaría la legislación sobre derechos de autor para prohibir la difusión de 'deepfakes' y así proteger los rasgos personales de los ciudadanos, como su apariencia o su voz, frente a imitaciones y publicaciones en línea sin su consentimiento.
De aprobarse, los ciudadanos daneses obtendrían derechos de autor sobre su propia imagen. En teoría, podrían exigir a las plataformas que retiren contenidos difundidos sin su permiso. La ley seguiría permitiendo la parodia y la sátira, aunque no está claro cómo se determinará.
Expertos y autoridades afirman que la legislación danesa estaría entre las medidas más amplias adoptadas por un Gobierno para combatir la desinformación mediante 'deepfakes'. Henry Ajder, fundador de la consultora Latent Space Advisory y uno de los principales expertos en IA generativa, alabó al Gobierno danés por reconocer que la ley debe cambiar.
"Porque ahora mismo, cuando la gente pregunta '¿qué puedo hacer para protegerme de que me hagan un 'deepfake'?', la respuesta que tengo que dar la mayoría de las veces es 'no hay mucho que puedas hacer'", explicó el experto, "sin llegar a decir 'bórrate de internet por completo'. Lo cual no es realmente posible". "No podemos fingir que esto es lo de siempre en la forma en que pensamos esas partes clave de nuestra identidad y nuestra dignidad" añadió.
¿Qué es un 'deepfake'?
Los 'deepfakes' son contenidos de audio, video o imagen manipulados con inteligencia artificial para que parezcan reales, a menudo se usan para suplantar la identidad de alguien.
'Deepfakes' y desinformación
El presidente de Estados Unidos, Donald Trump, firmó en mayo una ley bipartidista que tipifica como delito publicar o amenazar con publicar imágenes íntimas sin el consentimiento de la persona, incluidos los 'deepfakes'.
El año pasado, Corea del Sur adoptó medidas para frenar la pornografía con 'deepfakes', entre ellas castigos más duros y normas más estrictas para las plataformas de redes sociales.
El ministro de Cultura danés, Jakob Engel-Schmidt, comentó que el proyecto cuenta con un amplio apoyo de los legisladores en Copenhague, porque estas manipulaciones digitales siembran dudas sobre la realidad y difunden desinformación.
"Si puedes hacer un 'deepfake' de un político sin que él o ella pueda lograr que se retire, eso socavará nuestra democracia", argumentó a periodistas durante una conferencia sobre IA y derechos de autor en septiembre.
El equilibrio adecuado
La ley solo se aplicaría en Dinamarca y es poco probable que implique multas o cárcel para los usuarios de redes sociales. Sin embargo, las grandes plataformas tecnológicas que no retiren 'deepfakes' podrían afrontar multas severas, dijo Engel-Schmidt.
Ajder señaló que YouTube, propiedad de Google, por ejemplo, tiene un "sistema muy, muy bueno para lograr el equilibrio entre la protección de los derechos de autor y la libertad creativa". Los esfuerzos de la plataforma sugieren que reconoce "la magnitud del reto que ya tenemos y lo mucho que va a agravarse", añadió.
Twitch, TikTok y Meta, propietaria de Facebook e Instagram, no respondieron a las solicitudes de comentario. Engel-Schmidt afirmó que Dinamarca, que ostenta en la actualidad la presidencia rotatoria de la Unión Europea, ha suscitado interés por su propuesta legislativa entre varios socios de la UE, entre ellos Francia e Irlanda.
El abogado de propiedad intelectual Jakob Plesner Mathiasen declaró que la legislación evidencia la necesidad generalizada de combatir un peligro en línea que ya se ha infiltrado en todos los ámbitos de la vida danesa.
"Creo que esto deja claro que el ministerio no habría elaborado este proyecto si no hubiera motivos", sentenció. "Lo vemos con las noticias falsas, con las elecciones. Lo vemos con la pornografía y también con personas famosas y con gente corriente, como tú y yo".
La Danish Rights Alliance, que protege los derechos de las industrias creativas en internet, apoya el proyecto porque, según su directora, la actual ley de derechos de autor no llega lo suficientemente lejos.
El actor de doblaje danés David Bateson, por ejemplo, se vio indefenso cuando clones de su voz generados por IA fueron compartidos en línea entre miles de usuarios. Bateson puso voz a un personaje del popular videojuego 'Hitman', además de a los anuncios en inglés de la compañía danesa de juguetes Lego.
"Cuando denunciamos esto a las plataformas, dicen 'De acuerdo, pero ¿a qué normativa se refiere?'", comenta Maria Fredenslund, abogada y directora de la alianza. "No podíamos señalar una norma exacta en Dinamarca".
"Una vez está en internet, se acabó"
La 'streamer' Marie Watson había oído hablar de influencers que encontraron en internet imágenes suyas manipuladas digitalmente, pero nunca pensó que le pudiera pasar. Al adentrarse en un lado oscuro de la red, donde usuarios anónimos venden y comparten imágenes 'deepfake', a menudo de mujeres, dijo que le sorprendió lo fácil que era crear esas fotos con herramientas disponibles en línea.
"Bastaba literalmente con buscar 'deepfake generator' en Google o 'cómo hacer un deepfake' y aparecían todas esas webs y generadores", relata Watson, de 28 años.
Celebra que su Gobierno esté actuando, pero no es optimista. Cree que hay que ejercer más presión sobre las plataformas sociales. "No debería ser posible subir este tipo de imágenes", ya que "una vez está en internet, se acabó. No puedes hacer nada, se escapa a tu control".