Hvordan identifisere skapere og fjerne videoer i tilfelle av deepfake-skade

I 2020 ble det rapportert at en person ble arrestert for ærekrenkelse og brudd på den japanske opphavsrettsloven etter å ha publisert videoer på Twitter og betalte nettsteder, hvor ansiktene til skuespillere i voksenfilmer ble erstattet med ansiktene til populære kjendiser. Slike videoer kalles “deepfake”.

Teknologien bak deepfake ble opprinnelig utviklet ved Stanford University i USA, men de siste årene har det også vært en økning i tilfeller i Japan hvor kjendiser og kjente personer blir ofre for deepfake-videoer.

I denne artikkelen vil vi forklare hvordan underholdningsbyråer, som har kjendiser eller talenter som har blitt ofre for deepfake, kan identifisere personen som lastet opp videoen uten tillatelse og prosessen for å få videoen fjernet fra videosider.

Hva er deepfake?

Deepfake er en ny risiko som nylig har begynt å bli sett på som et problem. Først vil vi forklare hva deepfake er og hvilke skader som kan være bekymringsfulle.

Deepfake er en teknologi som bruker AI

Deepfake er et ord som kombinerer “deep learning” fra kunstig intelligens (AI) og “fake”, som betyr falsk. Kort sagt, deepfake refererer til falske videoer som er bevisst laget ved hjelp av deep learning-teknologi.

Med deepfake-teknologi kan man analysere og lære ansiktsuttrykk og trekk ved en person ved å bruke hundrevis til tusenvis av bilder av vedkommende gjennom deep learning-algoritmer.

Basert på denne læringen kan man erstatte en video av en annen person med en video som ser ut som den er av målpersonen. Ikke bare bilder, men også stemmeaksent og intonasjon kan lages ved hjelp av deep learning.

Tidligere, selv om man laget syntetiske bilder eller videoer, var nøyaktigheten så lav at det var åpenbart at de var syntetiske. Men med den nylige fremgangen innen IT-teknologi, kan deepfakes nå lages med en slik nøyaktighet at de kan forveksles med ekte videoer av personen.

Dette medfører en risiko for at folk som ser videoen, feilaktig tror at personen faktisk har sagt eller gjort det som vises i videoen.

Skader forårsaket av deepfake

Deepfake-teknologien i seg selv er ikke nødvendigvis ond. Men deepfake kan brukes til å falskt fremstille en persons handlinger eller uttalelser som om de faktisk har skjedd.

Derfor, når noen med onde hensikter bruker deepfake, kan de lage voksenfilmer med kjendiser eller kjente personer som faktisk ikke har deltatt i dem, slik som i den nylige arrestasjonen.

Videre, hvis deepfake av viktige personer i regjeringen eller andre med politisk eller økonomisk innflytelse blir laget, kan media bli lurt til å spre falske nyheter. Dette kan føre til politisk uro eller diplomatiske problemer. Derfor har dette begynt å bli sett på som et problem ikke bare i Japan, men globalt.

Kriminalitet og ulovlighet ved Deepfake

For første gang har en person blitt arrestert i forbindelse med en deepfake-sak. Ifølge en kunngjøring fra det japanske politiet, publiserte den mistenkte videoer på betalte nettsteder hvor ansiktene til kvinnelige kjendiser ble byttet ut med ansiktene til skuespillere i voksenfilmer. Ifølge rapporter ble personen arrestert for følgende to lovbrudd:

• Ærekrenkelse mot kvinnelige kjendiser
• Brudd på opphavsretten til produksjonsselskapet for voksenfilmer

Ærekrenkelse

I denne saken ble videoene publisert på Twitter og betalte nettsteder, som er tilgjengelige for et ubestemt eller stort antall personer.

Derfor ble det vurdert at videoene ga inntrykk av at de kvinnelige kjendisene deltok i voksenfilmer, noe som skadet deres ære blant et ubestemt antall seere.

Brudd på opphavsretten

Produksjonsselskapet for voksenfilmer har opphavsrett til filmene de lager. En av opphavsrettighetene er “retten til å opprettholde integritet”, som beskytter mot uautorisert endring av verket mot opphavspersonens vilje.

I denne saken ble innholdet i videoene endret uten tillatelse fra produksjonsselskapet, noe som utgjør et brudd på deres rett til å opprettholde integritet.

Brudd på personvern og portrettrettigheter

Deepfake innebærer uautorisert bruk av andres ansikter i videoer, noe som vanligvis utgjør et brudd på portrettrettighetene.

Brudd på personvernet innebærer å offentliggjøre en persons private forhold uten tillatelse, uavhengig av om informasjonen er sann eller ikke. Å offentliggjøre en persons seksuelle forhold, selv om de er forfalsket, utgjør vanligvis et brudd på personvernet.

https://monolith-law.jp/reputation/personal-information-and-privacy-violation[ja]

Imidlertid er brudd på portrettrettigheter og personvern ulovlige i sivilretten, og kan danne grunnlag for å identifisere posteren, fjerne videoene og kreve erstatning fra gjerningspersonen gjennom sivile prosedyrer. Men de utgjør ikke “kriminalitet”. Derfor kan man ikke be politiet om å etterforske slike saker kun basert på disse bruddene.

Lovgivningen henger etter den teknologiske utviklingen

Det er viktig å merke seg at ikke alle deepfake-videoer utgjør kriminalitet som ærekrenkelse eller brudd på opphavsretten. Nåværende japanske lover tar ikke høyde for den teknologiske utviklingen som gjør det mulig å lage sofistikerte deepfake-videoer. Derfor er det noen tilfeller som ikke kan straffeforfølges under gjeldende lovgivning.

Hvis en video, som i denne saken, er publisert på en måte som gjør den tilgjengelig for et ubestemt eller stort antall personer, og innholdet generelt senker kjendisens omdømme, kan det være mulig å anklage for ærekrenkelse.

Derfor vil det i nåværende situasjon ofte være slik at kjendiser som blir ofre for slike videoer, vil hevde at det utgjør ærekrenkelse.

Identifisering av Deepfake-skaperen

Hvis du blir utsatt for en deepfake, er det første du tenker på å identifisere skaperen. Imidlertid handles deepfakes ofte i lukkede miljøer, og det er ikke uvanlig at det er vanskelig å spore opp skaperen.

Derfor vil vi forklare hvordan deepfakes skapes og hvordan man kan identifisere skaperen av en deepfake.

Realiteten om deepfake-skaperne

I den nylige saken hvor noen ble arrestert, ble videoene offentliggjort på steder som alle kan få tilgang til, noe som førte til at saken ble kjent. Det sies imidlertid at det er stor etterspørsel etter voksne videoer av kjente japanske kjendiser i det skjulte, og det antas at de som ble arrestert denne gangen bare er toppen av isfjellet.

For mange deepfakes kan det være at fans av kjendiser ber deepfake-teknikere om å lage videoer etter deres smak (ofte av voksen karakter) i spesielle samfunn som ikke kan sees utenfra.

For å unngå å bli sporet, kan det også være tilfeller hvor teknikere blir betalt i kryptovaluta, noe som gjør det vanskelig å identifisere skaperen.

Metoder for å identifisere deepfake-skaperen

Selv om det er vanskelig å identifisere skaperen, er det mulig hvis videoen er offentliggjort på nettsteder som Twitter, som alle kan få tilgang til. Ved å få tilgang til IP-adressen fra Twitter når videoen ble tweetet, kan man bruke dette som et spor for å identifisere skaperen. Hvis man følger de riktige prosedyrene og lykkes med identifiseringen, kan man få vite skaperens adresse, navn og e-postadresse.

Metoden for å identifisere skaperen i dette tilfellet er i hovedsak den samme som i tilfeller hvor man blir utsatt for ærekrenkelser på internett, som på Twitter. Vi forklarer detaljert om prosedyrene for å identifisere postere på internett i artikkelen nedenfor.

Merk at denne prosedyren er sivilrettslig, og selv om det ikke er en “kriminell handling”, kan den brukes så lenge det er en krenkelse av portrettrettigheter eller personvernrettigheter som nevnt ovenfor.

https://monolith-law.jp/reputation/disclosure-of-the-senders-information[ja]

Imidlertid, hvis deepfake-videoen er laget i et lukket samfunn som nevnt tidligere, kan det i virkeligheten være vanskelig å identifisere skaperen.

En mulighet er at hvis det kan sies å være en kriminell handling, som i den nylige saken, kan en strafferettslig anmeldelse føre til at politiet etterforsker og identifiserer deepfake-skaperen.

Fjerning av Deepfake-videoer

Hvis en deepfake-video inneholder innhold som svekker offerets sosiale image, er det nødvendig å fjerne videoen umiddelbart.

Videre, hvis videoen er publisert på internett, vil den spre seg mer jo lenger tid som går. Derfor er det ønskelig å håndtere situasjonen så raskt som mulig etter at man oppdager skaden.

Krav om fjerning til deepfake-skaperen

Hvis skaperen kan identifiseres gjennom de nevnte prosedyrene, er det mulig å be skaperen direkte om å fjerne videoen.

Hvis skaperen har en konto på Twitter eller Instagram, kan man også kontakte vedkommende via direkte meldinger (DM) som et alternativ.

Men hvis offeret kontakter skaperen, er det en risiko for at skaperen sletter kontoen eller bevisene og rømmer. Derfor er det best å lagre bevisene for skaden før man krever fjerning fra skaperen.

Krav om fjerning til nettstedets administrator

Hvis skaperen ikke kan identifiseres umiddelbart, eller hvis det antas at skaperen ikke vil etterkomme kravet om fjerning, kan man be administratoren av nettstedet der videoen er publisert om å fjerne den.

For eksempel, på Twitter eller kjente forum, kan innhold som bryter med brukervilkårene fjernes av driftselskapet.

Når man ber om fjerning på grunn av brudd på brukervilkårene, er det viktig å sjekke tjenestevilkårene for det aktuelle nettstedet og spesifisere hvilke vilkår som er brutt.

Hvis nettstedets administrator ikke etterkommer kravet om fjerning, kan man be om en midlertidig forføyning gjennom rettssystemet for å få fjernet det problematiske innholdet. For mer informasjon om midlertidige forføyninger for å fjerne innlegg på internett, se artikkelen nedenfor.

https://monolith-law.jp/reputation/provisional-disposition[ja]

Oppsummering

Når kjendiser og talenter blir utsatt for deepfake-angrep, må underholdningsbyrået raskt samle inn informasjon.

Hvis en video som antas å være en deepfake oppdages, bør byrået lagre videoen og relaterte data fra nettstedet der de er publisert, ved hjelp av bilder, opptak eller skjermbilder, og umiddelbart vurdere hvordan de skal håndtere situasjonen.

For den påfølgende juridiske håndteringen, vil det være nødvendig å gjennomføre prosedyrer overfor domstoler eller politiet, så det anbefales å konsultere en advokat. I slike tilfeller er det best å rådføre seg med en advokat som har inngående kunnskap om internett og IT-teknologi.