Identificação do criador e método de remoção de vídeos em caso de ser vítima de 'Deepfake

No ano de 2020 (Reiwa 2), surgiram notícias de pessoas que foram presas por difamação e violação da lei de direitos autorais japonesa (‘Lei Japonesa de Direitos Autorais’) por publicarem vídeos no Twitter e em sites pagos, nos quais substituíram os rostos dos atores de vídeos adultos pelos rostos de celebridades populares. Esses tipos de vídeos são chamados de “deepfakes”.

A tecnologia por trás dos deepfakes foi originalmente desenvolvida na Universidade de Stanford, nos Estados Unidos, mas nos últimos anos tem havido um aumento no número de celebridades e figuras públicas no Japão que foram vítimas de vídeos deepfake.

Portanto, neste artigo, explicaremos para as agências de talentos cujas celebridades e talentos foram vítimas de deepfakes, como identificar os autores que usaram indevidamente seus rostos e publicaram vídeos em sites, e o processo para remover esses vídeos.

O que é Deepfake

Deepfake é um novo risco que começou a ser problematizado recentemente. Primeiro, explicaremos o que é deepfake e que tipo de danos são esperados.

Deepfake é uma tecnologia que utiliza a IA

Deepfake é uma palavra criada a partir da combinação de “deep”, que se refere à aprendizagem profunda (deep learning) realizada por Inteligência Artificial (IA), e “fake”, que significa falso. Em outras palavras, um vídeo falso criado intencionalmente utilizando a tecnologia de deep learning é chamado de deepfake.

Na tecnologia deepfake, se prepararmos centenas a milhares de imagens da pessoa alvo, o algoritmo aprenderá e analisará as expressões faciais e a aparência da pessoa alvo através do deep learning.

Com base nesta aprendizagem, é possível substituir um vídeo de outra pessoa por um vídeo da pessoa alvo. Não apenas imagens, mas também acentos de voz e entonações podem ser criados da mesma forma através do deep learning.

No passado, mesmo que se criassem imagens ou vídeos sintéticos, eles eram de baixa qualidade e claramente identificáveis como sintéticos. No entanto, com o avanço da tecnologia da informação nos últimos anos, os deepfakes podem agora ser criados com uma precisão que pode ser confundida com um vídeo real da pessoa.

Por isso, existe o risco de que as pessoas que veem o vídeo possam erroneamente acreditar que a pessoa no vídeo realmente fez e disse o que está no vídeo.

Danos causados por Deepfake

A tecnologia deepfake em si não é má. No entanto, com o deepfake, é possível disfarçar ações e declarações que a pessoa alvo não fez como se existissem.

Por isso, se alguém com intenções maliciosas usar o deepfake, como aconteceu recentemente com a prisão de uma pessoa, é possível criar vídeos adultos com celebridades e pessoas famosas que na realidade não participaram.

Além disso, se um deepfake de uma pessoa influente na política ou economia, como um funcionário do governo, for criado, a mídia enganada pode espalhar notícias falsas, o que pode levar a instabilidade política e problemas diplomáticos. Por isso, está começando a ser problematizado não só no Japão, mas também em todo o mundo.

Criminalidade e ilegalidade do Deepfake

Esta é a primeira vez que uma pessoa é presa em relação ao deepfake. Segundo o anúncio da Polícia Metropolitana, o suspeito publicou um vídeo em sites pagos e outros, substituindo o rosto de uma atriz de filmes adultos pelo rosto de uma atriz. Segundo relatos, as acusações na época da prisão foram as seguintes:

• Difamação contra a atriz
• Infringimento dos direitos autorais da produtora de filmes adultos

Difamação

O vídeo deste caso foi postado em lugares onde um número indeterminado ou grande de pessoas pode vê-lo, como o Twitter e sites pagos.

Por isso, foi considerado que difamou a honra da vítima, a atriz, ao dar a impressão a um número indeterminado de espectadores de que ela estava aparecendo em filmes adultos.

Infringimento dos direitos autorais

Além disso, a produtora de filmes adultos, que é a criadora do filme adulto, tem direitos autorais sobre ele. Um dos direitos autorais é o “direito de manter a identidade”, que é o direito de não ter a obra alterada contra a vontade do detentor dos direitos autorais.

Neste caso, como o conteúdo do vídeo foi alterado sem a permissão da produtora de filmes adultos, pode-se dizer que infringiu o direito de manter a identidade da produtora.

Invasão de privacidade e violação do direito de imagem

Deepfake, que usa o rosto de outra pessoa em um vídeo sem permissão, normalmente constitui uma violação do chamado direito de imagem.

Além disso, a invasão de privacidade, em termos simples, é “a estrutura ilegal de publicar sem permissão assuntos privados de um indivíduo (independentemente de serem verdadeiros ou não)”, e a publicação de um evento sexual de um indivíduo, mesmo que seja forjado, normalmente constitui uma invasão de privacidade.

No entanto, a violação do direito de imagem e da privacidade é ilegal em termos civis, e embora possa ser a base para a identificação do autor da postagem, a remoção do vídeo e a reivindicação de danos ao infrator através de procedimentos civis, não é um “crime”. Portanto, simplesmente alegar tais danos não será suficiente para instigar a polícia a investigar.

A lei não está acompanhando o desenvolvimento da tecnologia

No entanto, nem todos os deepfakes se tornam crimes por difamação ou violação de direitos autorais. Basicamente, a lei atual não pressupõe que é possível criar vídeos deepfake sofisticados graças ao avanço da tecnologia de IA. Portanto, a realidade é que existem coisas que não podem ser responsabilizadas criminalmente sob a lei atual.

Como no caso do vídeo que levou à prisão desta vez, se o vídeo for publicado em um estado em que um número indeterminado ou grande de pessoas pode vê-lo, e o conteúdo do vídeo sintetizado for tal que geralmente diminua a imagem da celebridade, pode ser possível acusá-lo de difamação.

Portanto, no momento atual, se uma celebridade for vítima, é provável que muitas vezes aleguem que é difamação.

Identificação do criador de Deepfake

Em caso de vitimização, a primeira coisa a considerar é a identificação do criador. No entanto, muitas vezes os Deepfakes são negociados num mundo fechado, e não é incomum que seja difícil rastrear o seu criador.

Assim, explicaremos como é o mundo da criação de Deepfakes e como identificar os seus criadores.

A realidade dos criadores de Deepfake

No caso do incidente que levou a uma detenção recente, pode-se dizer que o dano veio à luz porque foi publicado num local acessível a todos. No entanto, acredita-se que há uma grande demanda subterrânea por vídeos adultos de celebridades famosas, e a pessoa que foi presa desta vez é provavelmente apenas a ponta do iceberg.

Em muitos casos de Deepfake, é possível que os fãs de celebridades estejam a solicitar a criação de vídeos (muitas vezes de natureza adulta) de acordo com as suas preferências a técnicos de Deepfake em comunidades especiais inacessíveis ao público.

Existem casos em que a recompensa para os técnicos é paga em criptomoedas para evitar ser rastreado, tornando difícil a identificação do criador.

Como identificar o criador de Deepfake

Embora seja difícil identificar o criador, se o vídeo for publicado num site acessível a todos, como o Twitter, a identificação torna-se possível. Pode-se obter a divulgação do endereço IP usado quando o vídeo foi twittado da empresa Twitter, e usar isso como uma pista para identificar o criador. Se seguir o procedimento correto e a identificação for bem-sucedida, pode-se chegar a conhecer o endereço e o nome do criador, bem como o seu endereço de e-mail.

O método de identificação do criador neste caso é basicamente o mesmo que nos casos em que se é difamado na internet, como no Twitter. O procedimento para identificar o autor de uma postagem na internet é explicado em detalhe no seguinte artigo.

Deve-se notar que este procedimento é civil, e mesmo que não seja um “crime”, é permitido desde que haja uma violação de direitos de imagem ou de privacidade, como mencionado acima.

https://monolith.law/reputation/disclosure-of-the-senders-information[ja]

No entanto, como mencionado anteriormente, se o vídeo Deepfake for criado numa comunidade fechada, pode ser difícil na realidade identificar o criador.

Uma possibilidade é que, se o caso for considerado um crime, como no incidente desta vez, a polícia pode identificar o criador de Deepfake através de uma investigação iniciada por uma denúncia criminal.

Remoção de vídeos Deepfake

Se um vídeo Deepfake contiver conteúdo que possa prejudicar a imagem social da vítima, é essencial que o vídeo seja removido.

Além disso, se o vídeo estiver disponível na internet, quanto mais tempo passar desde a sua publicação, mais ele se espalhará. Portanto, é desejável que se tome medidas o mais rápido possível assim que se perceber o dano.

Pedido de remoção ao criador do Deepfake

Se o criador puder ser identificado através do procedimento mencionado acima, é possível solicitar diretamente ao criador a remoção do vídeo.

Se o criador tiver uma conta no Twitter ou Instagram, por exemplo, pode ser uma opção entrar em contato com ele através da função de mensagem direta (DM).

No entanto, se a vítima entrar em contato com o criador, existe o risco de ele aproveitar a oportunidade para apagar a conta e as provas e fugir. Portanto, é melhor solicitar a remoção ao criador depois de guardar algo que possa servir como prova do dano.

Pedido de remoção ao administrador do site

Se o criador não puder ser identificado imediatamente, ou se for identificado mas se acredita que ele não irá acatar o pedido de remoção, existe a opção de solicitar a remoção ao administrador do site onde o vídeo foi postado.

Por exemplo, no Twitter ou em fóruns famosos, a empresa operadora pode remover conteúdos que violem os termos de uso estabelecidos.

Ao solicitar a remoção por violação dos termos de uso, é importante verificar os termos de uso do site onde o conteúdo está postado e especificar claramente qual cláusula dos termos de uso está sendo violada.

Além disso, se o administrador do site não acatar o pedido de remoção, é possível solicitar a remoção do conteúdo problemático através de um procedimento judicial chamado medida cautelar. A medida cautelar para a remoção de postagens na internet é explicada em detalhes no seguinte artigo.

https://monolith.law/reputation/provisional-disposition[ja]

Resumo

Quando celebridades ou talentos são vítimas de deepfakes, é necessário que as suas agências de talentos recolham informações rapidamente.

Além disso, se descobrir um vídeo que parece ser um deepfake, deve guardar o vídeo e os dados relacionados que estão publicados no site, bem como a forma como estão publicados, através de fotografias, gravações, capturas de ecrã, etc., para considerar imediatamente as medidas a tomar.

Quanto ao tratamento legal subsequente, uma vez que será necessário proceder com ações legais perante os tribunais e a polícia, é provável que tenha de consultar um advogado. Nesse caso, recomendamos que consulte um advogado que esteja familiarizado com a Internet e a tecnologia da informação.