Come identificare l'autore e rimuovere il video in caso di danni da deepfake

Nel 2020, è stato diffuso un notiziario riguardante l’arresto di una persona che aveva pubblicato su Twitter e su siti a pagamento video in cui il volto degli attori di video per adulti era stato sostituito con quello di popolari personaggi dello spettacolo. Questo tipo di video è noto come “deepfake”.

La tecnologia alla base dei deepfake è stata originariamente sviluppata presso l’Università di Stanford negli Stati Uniti, ma negli ultimi anni in Giappone ci sono stati sempre più casi di personaggi famosi e celebrità che sono stati vittime di video deepfake.

In questo articolo, per le agenzie di talenti e personaggi dello spettacolo che sono stati vittime di deepfake, spiegheremo come identificare l’autore del video e il processo per rimuovere il video dal sito in caso il volto del talento sia stato utilizzato senza permesso e caricato su un sito di video.

Cos’è il Deepfake

Il Deepfake è un nuovo rischio che ha iniziato a essere considerato problematico di recente. Prima di tutto, spiegheremo cos’è il Deepfake e quali danni sono preoccupanti.

Il Deepfake è una tecnologia basata sull’IA

Il termine Deepfake è una combinazione di “deep” learning, o apprendimento profondo, un tipo di intelligenza artificiale (IA), e “fake”, che significa falso. In altre parole, un Deepfake è un video falso creato intenzionalmente utilizzando la tecnologia di apprendimento profondo.

Con la tecnologia Deepfake, se si preparano da centinaia a migliaia di immagini della persona target, l’algoritmo analizza e apprende le espressioni facciali e l’aspetto della persona target attraverso l’apprendimento profondo.

Sulla base di questo apprendimento, è possibile sostituire un video in cui appare un’altra persona con un video che sembra essere stato realizzato dalla persona target. Non solo le immagini, ma anche l’accento e l’intonazione della voce possono essere creati allo stesso modo attraverso l’apprendimento profondo.

In passato, anche se si creavano immagini o video sintetici, la qualità era così bassa che era ovvio che erano sintetici. Tuttavia, con i recenti progressi nella tecnologia IT, i Deepfake possono ora essere creati con una precisione tale da poter essere confusi con un video della persona reale.

Di conseguenza, c’è il rischio che chi guarda il video possa erroneamente credere che la persona nel video abbia agito come mostrato nel video.

Danni causati dal Deepfake

La tecnologia Deepfake in sé non è cattiva. Tuttavia, con il Deepfake, è possibile falsificare azioni e dichiarazioni che la persona target non ha effettivamente fatto come se esistessero.

Di conseguenza, se qualcuno con cattive intenzioni utilizza il Deepfake, come nel caso dell’arresto di questa volta, è possibile creare video per adulti in cui celebrità e persone famose non appaiono effettivamente.

Inoltre, se vengono creati Deepfake di persone in posizioni di potere politico ed economico, come i funzionari governativi, i media ingannati potrebbero diffondere le notizie false, potenzialmente portando a instabilità politica e problemi diplomatici. Per questo motivo, il problema sta iniziando ad essere riconosciuto non solo in Giappone, ma in tutto il mondo.

La criminalità e l’illegalità del Deepfake

Questa volta, c’è stato il primo arresto in relazione al Deepfake. Secondo quanto riferito dalla polizia metropolitana, il sospettato ha pubblicato un video su siti a pagamento e altri in cui il volto di un’attrice AV è stato sostituito con quello di un’attrice. Secondo i rapporti, i capi d’accusa al momento dell’arresto erano i seguenti:

• Diffamazione contro l’attrice
• Violazione del copyright della società di produzione AV

Diffamazione

Il video in questione è stato pubblicato su Twitter e su siti a pagamento, luoghi che possono essere visti da un numero indeterminato o da molte persone.

Di conseguenza, è stato giudicato che l’attrice vittima è stata diffamata dando l’impressione a un numero indeterminato di spettatori che stava apparendo in un AV.

Violazione del copyright

Inoltre, il copyright dei video per adulti appartiene alla società di produzione di video per adulti che li ha creati. Uno dei diritti d’autore è il “diritto di mantenere l’identità”, che impedisce che l’opera venga modificata arbitrariamente contro la volontà dell’autore.

Nel caso di questo incidente, poiché il contenuto del video è stato modificato senza il permesso della società di produzione di video per adulti, si può dire che sia stata violata la sua identità.

Violazione della privacy e del diritto all’immagine

Il Deepfake, che utilizza il volto di un’altra persona senza permesso in un video, normalmente costituisce una violazione del diritto all’immagine.

Inoltre, la violazione del diritto alla privacy, in termini semplici, è “illegale pubblicare senza permesso questioni private di un individuo (indipendentemente dal fatto che siano vere o false)”. Pubblicare un evento sessuale di un individuo, anche se è falso, normalmente costituisce una violazione della privacy.

https://monolith.law/reputation/personal-information-and-privacy-violation[ja]

Tuttavia, la violazione del diritto all’immagine e del diritto alla privacy è illegale in termini civili, e può essere la base per l’identificazione del poster e la rimozione del video attraverso procedure civili, e per richiedere un risarcimento al colpevole, ma non è un “crimine”. Pertanto, non si può incoraggiare la polizia a indagare semplicemente denunciando tali danni.

La legge non sta tenendo il passo con l’evoluzione della tecnologia

Tuttavia, non tutti i Deepfake diventano crimini attraverso la diffamazione o la violazione del copyright. Fondamentalmente, la legge attuale non presuppone che si possano creare video Deepfake sofisticati grazie ai progressi dell’IA. Pertanto, la realtà è che ci sono cose che non possono essere considerate criminali sotto la legge attuale.

Se un video, come quello che ha portato all’arresto di questa volta, viene pubblicato in un luogo dove un numero indeterminato o molte persone possono vederlo, e il video sintetico è di un tipo che generalmente abbassa l’immagine di una celebrità, potrebbe essere considerato diffamatorio.

Di conseguenza, al momento, si pensa che quando una celebrità è vittima, è probabile che si sostenga che sia diffamatoria.

Identificazione del creatore di Deepfake

Se si è vittime di un danno, la prima cosa a cui si pensa è l’identificazione del creatore. Tuttavia, spesso le Deepfake sono scambiate in un mondo chiuso, rendendo difficile rintracciare il loro percorso.

Quindi, spiegheremo come viene creato il mondo delle Deepfake e come identificare i loro creatori.

La realtà dei creatori di Deepfake

Nel caso dell’incidente che ha portato all’arresto di questa volta, si può dire che il danno è venuto alla luce perché è stato pubblicato in un luogo accessibile a chiunque. Tuttavia, si dice che ci sia una grande domanda sotterranea per i video per adulti di celebrità famose, e si pensa che l’arresto di questa volta sia solo la punta dell’iceberg.

Per molte Deepfake, è possibile che i fan delle celebrità stiano commissionando ai tecnici di Deepfake di creare video (spesso per adulti) secondo i loro gusti in comunità speciali non visibili dall’esterno.

Ci sono casi in cui il pagamento ai tecnici viene effettuato in criptovaluta per evitare di essere rintracciati, rendendo difficile l’identificazione del creatore.

Metodo di identificazione del creatore di Deepfake

Sebbene l’identificazione del creatore sia difficile, se viene pubblicato su un sito accessibile a chiunque come Twitter, l’identificazione diventa possibile. È possibile identificare il creatore ottenendo la divulgazione dell’indirizzo IP utilizzato per twittare il video da Twitter. Seguendo la procedura corretta, se l’identificazione ha successo, è possibile conoscere l’indirizzo, il nome e l’indirizzo e-mail.

Il metodo di identificazione del creatore in questo caso è fondamentalmente lo stesso di quando si è diffamati su Internet come Twitter. Per quanto riguarda la procedura per identificare l’autore di un post su Internet, abbiamo spiegato in dettaglio nel seguente articolo.

Vale la pena notare che questa procedura è civile, e come menzionato sopra, è permessa finché ci sono violazioni del diritto all’immagine o della privacy, anche se non è un “crimine”.

https://monolith.law/reputation/disclosure-of-the-senders-information[ja]

Tuttavia, come menzionato in precedenza, se il video Deepfake è stato creato in una comunità chiusa, può essere difficile identificare il creatore nella realtà.

Una possibilità è che, come in questo caso, se si può dire che si tratta di un crimine, l’autore di Deepfake può essere identificato attraverso un’indagine della polizia presentando una denuncia penale.

Eliminazione dei video Deepfake

Se un video deepfake contiene materiale che può danneggiare l’immagine sociale della vittima, è assolutamente necessario rimuoverlo.

Inoltre, se il video è stato pubblicato su Internet, più tempo passa dalla pubblicazione, più si diffonde. Pertanto, è desiderabile agire il più rapidamente possibile non appena si nota il danno.

Richiesta di rimozione all’autore del Deepfake

Se l’autore può essere identificato attraverso le procedure sopra descritte, è anche possibile richiedere direttamente all’autore di rimuovere il video.

Se l’autore ha un account su Twitter, Instagram, ecc., è possibile contattarlo utilizzando funzioni come i messaggi diretti (DM).

Tuttavia, se la vittima contatta l’autore, c’è il rischio che l’autore possa cancellare l’account e le prove e fuggire. Pertanto, è meglio richiedere la rimozione all’autore solo dopo aver conservato tutto ciò che potrebbe servire come prova del danno.

Richiesta di rimozione all’amministratore del sito

Se l’autore non può essere immediatamente identificato, o se può essere identificato ma si ritiene che non risponderà alla richiesta di rimozione, è possibile richiedere la rimozione all’amministratore del sito su cui è stato pubblicato il video.

Ad esempio, Twitter o famosi forum possono rimuovere contenuti che violano i termini di servizio stabiliti dalla società di gestione.

Quando si richiede la rimozione per violazione dei termini di servizio, è importante verificare i termini di servizio del sito web su cui è stato pubblicato il video e specificare esattamente quale clausola dei termini di servizio è stata violata.

Inoltre, se l’amministratore del sito web non risponde alla richiesta di rimozione, è possibile richiedere la rimozione di un articolo problematico attraverso un procedimento giudiziario chiamato misura cautelare. Per ulteriori dettagli sulle misure cautelari per la rimozione di post su Internet, si prega di consultare l’articolo seguente.

https://monolith.law/reputation/provisional-disposition[ja]

Riassunto

Quando una celebrità o un talento diventa vittima di deepfake, è necessario che l’agenzia di intrattenimento raccolga rapidamente le informazioni.

Inoltre, se si scopre un video che sembra essere un deepfake, è consigliabile salvare le immagini, le registrazioni, gli screenshot, ecc. del video e dei dati correlati pubblicati sul sito, e considerare immediatamente le misure da adottare.

Per quanto riguarda le azioni legali successive, si presume che sarà necessario consultare un avvocato, poiché sarà necessario intraprendere procedure legali nei confronti dei tribunali o della polizia. In questo caso, si consiglia di consultare un avvocato esperto di Internet e tecnologia IT.