Hur man identifierar skaparen och tar bort videon om man har drabbats av 'Deepfake'-skada

År 2020 (Reiwa 2) rapporterades det om en person som hade publicerat videor på Twitter och betalwebbplatser där ansiktet på en vuxenfilmskådespelare hade ersatts med ansiktet på en populär kändis. Personen greps för ärekränkning och brott mot den japanska upphovsrättslagen. Sådana videor kallas “deepfakes”.

Den teknik som ligger till grund för deepfakes sägs ursprungligen ha utvecklats vid Stanford University i USA, men på senare år har det blivit allt vanligare att kändisar och offentliga personer i Japan drabbas av deepfake-videor.

I den här artikeln kommer vi att förklara för talangbyråer vars kändisar och talanger har drabbats av deepfakes, hur man identifierar uppladdaren och processen för att ta bort videor som har laddats upp utan tillstånd med deras ansikten.

Vad är Deepfake?

Deepfake är en ny risk som nyligen har börjat uppmärksammas. Först och främst, låt oss förklara vad Deepfake är och vilka skador som kan uppstå.

Deepfake är en teknik som använder AI

Deepfake är ett ord som skapats genom att kombinera “deep”, som hänvisar till “deep learning” genom artificiell intelligens (AI), och “fake”, som betyder falsk. Med andra ord, en falsk video som medvetet har skapats genom att använda deep learning-teknik kallas Deepfake.

Med Deepfake-tekniken, om du förbereder hundratals till tusentals bilder av den person du vill imitera, kommer algoritmen att analysera och lära sig personens ansiktsuttryck och ansiktsdrag genom deep learning.

Baserat på denna inlärning kan du byta ut en video med någon annan till en video som om den personen var med. Inte bara bilder, utan också röstaccent och intonation kan skapas med deep learning.

Tidigare var syntetiserade bilder och videor av låg kvalitet och det var uppenbart att de var falska. Men tack vare framstegen inom IT-teknik kan Deepfakes nu skapas med en noggrannhet som gör att de kan misstas för riktiga personer.

Detta innebär att det finns en risk att personer som ser videon kan misstas för att tro att personen i videon faktiskt har agerat på det sättet.

Skador orsakade av Deepfake

Det är inte så att Deepfake-tekniken i sig är dålig. Men med Deepfake kan du fejka att en person har gjort handlingar eller uttalanden som de faktiskt inte har gjort.

Om någon med illvilliga avsikter använder Deepfake kan de skapa vuxenvideor med kändisar och offentliga personer som faktiskt inte medverkar, som i det nyligen rapporterade fallet där en person arresterades.

Om en Deepfake av en regeringsmedlem eller någon annan person med inflytande över politik och ekonomi skapas, kan media som blir lurade sprida det som falska nyheter, vilket kan leda till politisk instabilitet och diplomatiska problem. Detta är därför ett problem som börjar uppmärksammas inte bara i Japan utan över hela världen.

Den kriminella och olagliga naturen av Deepfake

Detta är första gången en person har arresterats i samband med Deepfake. Enligt en rapport från polisen misstänks den anklagade för att ha publicerat en video på betalwebbplatser där ansiktet på en vuxenfilmskådespelare har bytts ut mot ansiktet på en kvinnlig kändis. Enligt rapporter var anklagelserna vid tidpunkten för gripandet följande:

• Förtal mot den kvinnliga kändisen
• Upphovsrättsintrång mot vuxenfilmsproduktionsbolaget

Förtal

I det här fallet publicerades videon på platser som Twitter och betalwebbplatser där ett obestämt eller stort antal personer kan se den.

Detta ledde till att tittarna fick intrycket att den kvinnliga kändisen medverkade i en vuxenfilm, vilket skadade hennes rykte.

Upphovsrättsintrång

Vuxenfilmer har upphovsrätt till produktionsbolaget som skapade dem. En av dessa rättigheter, kallad “rätten att behålla identitet”, förhindrar att verket ändras utan upphovsrättshavarens samtycke.

I det här fallet ändrades innehållet i videon utan tillstånd från produktionsbolaget, vilket innebär att bolagets rätt att behålla identitet kränktes.

Intrång i privatlivet och porträtträttigheter

Deepfake innebär att någon annans ansikte används utan tillstånd i en video, vilket normalt skulle kränka personens porträtträttigheter.

Intrång i privatlivet innebär i grund och botten att “det är olagligt att offentliggöra privata detaljer om en individ (oavsett om de är sanna eller inte) utan deras tillstånd”. Att offentliggöra en individs sexuella aktiviteter, även om de är förfalskade, skulle normalt räknas som ett intrång i privatlivet.

https://monolith.law/reputation/personal-information-and-privacy-violation[ja]

Men intrång i porträtträttigheter och privatliv är olagligt i civilrättslig mening, och kan användas som grund för att identifiera uppladdaren, ta bort videon och begära skadestånd från gärningsmannen, men det är inte ett “brott”. Därför kan du inte uppmana polisen att utreda bara genom att anklaga för sådana skador.

Lagen hänger inte med teknikens utveckling

Det är dock inte så att alla Deepfakes blir brott genom förtal eller upphovsrättsintrång. I grunden tar dagens lagar inte hänsyn till att det nu är möjligt att skapa sofistikerade Deepfake-videor med hjälp av AI-teknik. Därför finns det fall där det inte är möjligt att hålla någon straffrättsligt ansvarig enligt gällande lag, vilket är den nuvarande situationen.

Om en video, som den som ledde till det nyligen rapporterade gripandet, publiceras där ett obestämt eller stort antal personer kan se den, och den syntetiserade videon innehåller innehåll som generellt sett skulle sänka en kändis image, kan det vara möjligt att åtala för förtal.

Därför tror vi att om en kändis blir offer, kommer det att bli vanligare att hävda att det rör sig om förtal.

Identifiering av skapare av Deepfake

När man drabbas av skada är det första man tänker på att identifiera skaparen. Dock handlas Deepfake ofta i en sluten värld, och det är inte ovanligt att det är svårt att spåra dess ursprung.

Här kommer vi att förklara hur Deepfake skapas och hur man kan identifiera skaparna av Deepfake.

Verkligheten för skapare av Deepfake

I det aktuella fallet där det har skett gripanden, kan man säga att skadan kom i ljuset eftersom den publicerades på en plats som vem som helst kan se. Dock sägs det att det finns en stor efterfrågan under ytan på vuxenfilmer med kända kändisar, och de som greps denna gång tros bara vara toppen av isberget.

För många Deepfakes kan det vara så att fans av kändisar ber tekniker som är specialiserade på Deepfake att skapa filmer (ofta av vuxen karaktär) enligt deras preferenser inom slutna, osynliga gemenskaper.

Det finns fall där betalning till tekniker görs i kryptovaluta för att undvika att bli spårad, vilket gör det svårt att identifiera skaparen.

Hur man identifierar skapare av Deepfake

Även om det är svårt att identifiera skaparen, om det publiceras på en webbplats som Twitter där vem som helst kan få tillgång, blir det möjligt att identifiera dem. Man kan få tillgång till IP-adressen som användes när filmen twittrades från Twitter och använda detta som en ledtråd för att identifiera skaparen. Om man följer rätt procedurer och identifieringen lyckas, kan man få reda på allt från adress till namn och e-postadress.

Metoden för att identifiera skaparen i detta fall är i grunden densamma som i fall där man har blivit förtalad på internet, som Twitter. Vi har en detaljerad förklaring av processen för att identifiera postare på internet i följande artikel.

Observera att denna process är civil, och även om det inte är ett “brott”, så länge det finns en kränkning av porträtträttigheter eller privatlivsrättigheter som nämnts ovan, kommer det att godkännas.

https://monolith.law/reputation/disclosure-of-the-senders-information[ja]

Men, som nämnt tidigare, om en Deepfake-film skapas inom en sluten gemenskap, kan det i verkligheten vara svårt att identifiera skaparen.

En möjlighet är att om det, som i det här fallet, kan anses vara ett brott, kan polisutredning genom att anmäla det som ett brott leda till att skaparen av Deepfake kan identifieras.

Radering av Deepfake-videor

Om en Deepfake-video innehåller innehåll som skadar offrets sociala image, är det nödvändigt att radera videon.

Om videon publiceras på internet, kommer den att spridas ju mer tid som går från publiceringen. Därför är det önskvärt att agera så snabbt som möjligt när du märker skadan.

Begäran om radering till Deepfake-skaparen

Om skaparen kan identifieras genom den tidigare nämnda processen, är det också möjligt att begära att skaparen direkt raderar videon.

Om skaparen har ett konto på Twitter eller Instagram, kan du också överväga att kontakta dem direkt genom att använda direktmeddelande (DM) funktionen.

Men om offret kontaktar skaparen, finns det en risk att de tar detta som en anledning att radera sitt konto och bevis och fly. Därför är det bättre att begära radering från skaparen efter att ha lagrat något som kan vara bevis på skadan.

Begäran om radering till webbplatsadministratören

Om skaparen inte kan identifieras direkt, eller om de kan identifieras men det antas att de inte kommer att radera, finns det ett sätt att begära radering från administratören för den webbplats där det publicerades.

Till exempel, om det är Twitter eller en känd bulletin board, kan de radera innehåll som bryter mot användarvillkoren som företaget har fastställt.

När du begär radering på grund av brott mot användarvillkoren, är det viktigt att kontrollera webbplatsens användarvillkor och tydligt ange vilken klausul som bryts.

Om webbplatsadministratören inte svarar på raderingsbegäran, kan du begära radering av problematiska artiklar genom en domstolsförfarande, en tillfällig åtgärd. För mer information om tillfälliga åtgärder för att radera inlägg på internet, se följande artikel.

https://monolith.law/reputation/provisional-disposition[ja]

Sammanfattning

När kändisar eller talanger blir offer för deepfake, är det nödvändigt för talangbyråer att snabbt samla information.

Om du upptäcker en video som du tror är en deepfake, bör du spara videon och alla relaterade data, inklusive hur den publicerades på webbplatsen, genom att ta bilder, spela in, ta skärmdumpar etc., och omedelbart överväga hur du ska hantera situationen.

När det gäller juridiska åtgärder som ska vidtas därefter, kommer du förmodligen att behöva rådfråga en advokat eftersom det kommer att vara nödvändigt att vidta åtgärder mot domstolar och polisen. Vid sådana tillfällen rekommenderas det att du rådfrågar en advokat som är kunnig om internet och IT-teknik.