Dinamarca tenta proteger cidadãos contra deepfakes de IA

Em 2021, a streamer dinamarquesa de videojogos Marie Watson recebeu uma imagem sua de uma conta desconhecida no Instagram.

Reconheceu de imediato a foto de férias do seu Instagram, mas havia algo diferente: a roupa tinha sido removida digitalmente para a fazer parecer nua. Era um deepfake.

“Foi avassalador”, recordou Watson. “Comecei a chorar descontroladamente, porque, de repente, eu estava ali nua”.

Nos quatro anos desde então, os deepfakes (imagens, vídeos ou áudios altamente realistas de pessoas ou acontecimentos reais, gerados por inteligência artificial (IA)) tornaram-se não só mais fáceis de produzir em todo o mundo, como também muito mais convincentes.

Tal deve-se aos avanços tecnológicos e à proliferação de ferramentas de IA generativa, incluindo ferramentas de geração de vídeo da OpenAI e da Google.

Estas ferramentas permitem a milhões de utilizadores produzir conteúdo com facilidade, inclusive para fins nefastos que vão desde representar celebridades como Taylor Swift e Katy Perry a perturbar eleições e humilhar adolescentes e mulheres.

Direitos de autor

Em resposta, a Dinamarca procura proteger cidadãos comuns, bem como intérpretes e artistas cuja aparência ou voz possa ser imitada e partilhada sem autorização.

Uma proposta de lei, cuja aprovação é esperada no início do próximo ano, alterará a legislação de direitos de autor ao proibir a partilha de deepfakes para proteger características pessoais dos cidadãos, como a aparência ou a voz, de serem imitadas e divulgadas online sem consentimento.

Se for aprovada, os cidadãos dinamarqueses passariam a deter os direitos de autor sobre a sua própria imagem. Em teoria, poderiam então exigir que as plataformas online retirassem conteúdos partilhados sem autorização. A lei continuará a permitir paródia e sátira, embora não esteja claro como isso será determinado.

Especialistas e responsáveis dizem que a legislação dinamarquesa seria um dos passos mais abrangentes já dados por um governo para combater a desinformação através de deepfakes.

Henry Ajder, fundador da consultora Latent Space Advisory e um dos principais especialistas em IA generativa, disse que aplaude o governo dinamarquês por reconhecer que a lei precisa de mudar.

“Porque, neste momento, quando as pessoas perguntam ‘o que posso fazer para me proteger de um deepfake?’, a resposta que tenho de dar, na maioria das vezes, é: ‘não há muito que possa fazer’, sem basicamente dizer ‘apague completamente a sua presença na internet’. O que, na verdade, não é possível”.

Acrescentou: “Não podemos fingir que isto é normal no modo como pensamos essas partes centrais da nossa identidade e da nossa dignidade”.

Deepfakes e desinformação

O Presidente dos EUA, Donald Trump, assinou em maio legislação bipartidária que torna ilegal publicar, ou ameaçar publicar, imagens íntimas sem o consentimento da pessoa, incluindo deepfakes.

No ano passado, a Coreia do Sul lançou medidas para travar pornografia deepfake, incluindo punições mais pesadas e regras reforçadas para as plataformas de redes sociais.

O ministro dinamarquês da Cultura, Jakob Engel-Schmidt, disse que a proposta tem amplo apoio dos deputados em Copenhaga, porque estas manipulações digitais geram dúvidas sobre a realidade e espalham desinformação.

“Se for possível fazer um deepfake de um político sem que ele ou ela consiga mandar retirar esse conteúdo, isso mina a nossa democracia”, disse a jornalistas durante uma conferência sobre IA e direitos de autor em setembro.

Equilíbrio certo

A lei aplicar-se-ia apenas na Dinamarca e é improvável que envolva coimas ou prisão para utilizadores das redes sociais. Mas as grandes plataformas tecnológicas que não removam deepfakes poderão enfrentar coimas pesadas, disse Engel-Schmidt.

Ajder disse que, por exemplo, o YouTube, detido pela Google, tem “um sistema muito, muito bom para encontrar o equilíbrio entre a proteção de direitos de autor e a liberdade criativa”.

Os esforços da plataforma sugerem que reconhece “a dimensão do desafio que já existe e o quanto se vai aprofundar”, acrescentou.

A Twitch, o TikTok e a Meta, dona do Facebook e do Instagram, não responderam aos pedidos de comentário.

Engel-Schmidt disse que a Dinamarca, atual detentora da presidência rotativa da União Europeia, recebeu manifestações de interesse na sua proposta de vários outros Estados-membros, incluindo França e Irlanda.

O advogado de propriedade intelectual Jakob Plesner Mathiasen afirmou que a legislação evidencia a necessidade generalizada de combater o perigo na internet que hoje atravessa todos os aspetos da vida na Dinamarca.

“Acho que isto mostra claramente que o ministério não avançaria com este projeto se não houvesse motivo para tal”, disse.

“Vemos isso nas notícias falsas, nas eleições. Vemo-lo na pornografia e tanto com pessoas famosas como com pessoas comuns, como qualquer um de nós”.

A Danish Rights Alliance, que protege na internet os direitos das indústrias criativas, apoia a proposta, porque, segundo a sua diretora, a legislação atual de direitos de autor não vai suficientemente longe.

O ator de voz dinamarquês David Bateson, por exemplo, ficou sem saber o que fazer quando clones de voz gerados por IA foram partilhados por milhares de utilizadores. Bateson deu voz a uma personagem do popular videojogo Hitman, bem como a anúncios em inglês da Lego, o fabricante dinamarquês de brinquedos.

“Quando comunicámos isto às plataformas online, respondem: ‘Está bem, mas a que regulamentação se refere?’”, disse Maria Fredenslund, advogada e diretora da aliança.

“Não conseguíamos apontar uma norma específica na Dinamarca”.

Quando chega à internet, acabou-se

Watson já tinha ouvido falar de outros influenciadores que encontraram online imagens suas alteradas digitalmente, mas nunca pensou que pudesse acontecer-lhe.

Ao mergulhar num lado obscuro da web onde utilizadores anónimos vendem e partilham imagens deepfake, muitas vezes de mulheres, disse ter ficado chocada com a facilidade de criar essas fotos com ferramentas disponíveis online.

“Podia literalmente procurar ‘gerador de deepfake’ no Google ou ‘como fazer um deepfake’ e surgiam logo sites e geradores”, disse Watson, de 28 anos.

Fica contente por o seu governo estar a agir, mas não tem grandes esperanças. Acredita que é preciso aplicar mais pressão sobre as plataformas de redes sociais.

“Não devia ser possível carregar este tipo de imagens”, disse. “Quando está online, acabou-se. Não há nada a fazer, sai do nosso controlo”.