Hoe de maker te identificeren en de video te verwijderen als je slachtoffer bent van deepfake schade

In 2020 (Reiwa 2) was er nieuws over de arrestatie van iemand die video’s op Twitter en betaalde sites had gepubliceerd waarin het gezicht van een volwassen videoacteur was vervangen door het gezicht van een populaire Japanse beroemdheid. Dit werd beschouwd als smaad en een inbreuk op de Japanse auteursrechtwet. Dergelijke video’s worden ‘deepfakes’ genoemd.

De technologie achter deepfakes is oorspronkelijk ontwikkeld aan de Stanford University in de Verenigde Staten, maar in recente jaren is er in Japan een toename van gevallen waarin beroemdheden en bekende personen het slachtoffer zijn geworden van deepfake video’s.

In dit artikel leggen we uit hoe talentenbureaus, waarvan de aangesloten beroemdheden en talenten het slachtoffer zijn geworden van deepfakes, de identiteit van de uploader kunnen achterhalen en het proces van het verwijderen van video’s kunnen volgen als hun gezichten zonder toestemming worden gebruikt en geüpload naar videosites.

Wat is Deepfake?

Deepfake is een nieuw risico dat recentelijk onder de aandacht is gekomen. Eerst leggen we uit wat Deepfake is en welke schade er kan ontstaan.

Deepfake is een technologie die gebruik maakt van AI

Deepfake is een woord dat is samengesteld uit ‘deep’, wat verwijst naar ‘deep learning’ door kunstmatige intelligentie (AI), en ‘fake’, wat nep betekent. Met andere woorden, een Deepfake is een nepvideo die opzettelijk is gemaakt met behulp van deep learning technologie.

Met Deepfake-technologie, als je honderden tot duizenden afbeeldingen van het doelwit voorbereidt, zal het algoritme de gezichtsuitdrukkingen en gelaatstrekken van het doelwit analyseren en leren door middel van deep learning.

Op basis van dit leren kan een video waarin iemand anders verschijnt worden vervangen door een video alsof het doelwit erin verschijnt. Niet alleen afbeeldingen, maar ook accenten en intonaties van stemmen kunnen op dezelfde manier worden gecreëerd door middel van deep learning.

In het verleden bleven samengestelde afbeeldingen en video’s duidelijk nep en van lage kwaliteit. Echter, dankzij de recente vooruitgang in IT-technologie, kunnen Deepfakes nu worden gemaakt met een nauwkeurigheid die ze gemakkelijk kan laten verwarren met echte video’s van de persoon.

Daarom bestaat het risico dat mensen die de video bekijken, ten onrechte geloven dat de persoon in de video zich gedraagt zoals getoond in de video.

Schade veroorzaakt door Deepfake

De Deepfake-technologie zelf is niet slecht. Echter, met Deepfake kan men doen alsof het doelwit acties of uitspraken heeft gedaan die ze in werkelijkheid niet hebben gedaan.

Daarom, als iemand met kwade bedoelingen Deepfake gebruikt, kunnen ze, zoals in het recente geval waarin er arrestaties zijn gemaakt, pornovideo’s maken waarin beroemdheden of bekende personen verschijnen die in werkelijkheid niet hebben deelgenomen.

Bovendien, als er een Deepfake wordt gemaakt van een overheidsfunctionaris of iemand in een positie die invloed heeft op politiek of economie, kan de misleide media het verspreiden als nepnieuws, wat kan leiden tot politieke onrust of diplomatieke problemen. Daarom wordt het nu niet alleen in Japan, maar ook wereldwijd als een probleem gezien.

De criminaliteit en illegaliteit van Deepfake

Er is voor het eerst een arrestatie gemaakt in verband met Deepfake. Volgens de aankondiging van de politie van Tokyo, heeft de verdachte een video gepubliceerd op betaalde sites en dergelijke, waarin het gezicht van een vrouwelijke beroemdheid is vervangen door het gezicht van een pornoactrice. Volgens rapporten waren de aanklachten bij de arrestatie de volgende twee:

• Belediging van de eer van de vrouwelijke beroemdheid
• Inbreuk op het auteursrecht van de pornoproductiebedrijf

Belediging van de eer

De video in dit geval werd gepost op plaatsen zoals Twitter en betaalde sites, waar een onbepaald of groot aantal mensen het kan zien.

Daarom werd geoordeeld dat het de eer van het slachtoffer, de vrouwelijke beroemdheid, had beledigd door de indruk te wekken bij een onbepaald aantal kijkers dat ze in een pornofilm had gespeeld.

Inbreuk op het auteursrecht

Bovendien heeft het pornoproductiebedrijf, de maker van de pornofilm, het auteursrecht. Een van de rechten van het auteursrecht is het ‘recht op integriteit’, dat het recht is om niet zonder toestemming te worden gewijzigd tegen de wil van de auteursrechthouder.

In dit geval werd de inhoud van de video gewijzigd zonder toestemming van het pornoproductiebedrijf, dus het kan worden gezegd dat het het recht op integriteit van het bedrijf heeft geschonden.

Inbreuk op privacy en portretrecht

Deepfake, dat het gezicht van een ander zonder toestemming gebruikt in een video, is normaal gesproken een inbreuk op het zogenaamde portretrecht.

Bovendien is inbreuk op het recht op privacy, simpel gezegd, “het is illegaal om privézaken van een individu (ongeacht of ze waar zijn of niet) zonder toestemming te publiceren”, en het publiceren van seksuele zaken van een individu, zelfs als ze vervalst zijn, is normaal gesproken een inbreuk op het recht op privacy.

https://monolith.law/reputation/personal-information-and-privacy-violation[ja]

Echter, inbreuk op portretrecht en privacy is illegaal in het civiel recht, en hoewel het de basis kan vormen voor het identificeren van de poster en het verwijderen van de video via civiele procedures, en het eisen van schadevergoeding van de dader, is het geen ‘misdaad’. Daarom kan men de politie niet aanzetten tot onderzoek door alleen deze schade te claimen.

De wet loopt achter op de technologische vooruitgang

Maar niet elke Deepfake wordt een misdaad door laster of inbreuk op het auteursrecht. In principe gaat de huidige wetgeving er niet van uit dat men verfijnde Deepfake-video’s kan maken door de vooruitgang van AI-technologie. Daarom is de huidige situatie dat er dingen zijn die niet als een misdaad kunnen worden beschouwd onder de huidige wetgeving.

Als een video, zoals de video waarin de arrestatie werd gemaakt, wordt gepubliceerd in een staat waar een onbepaald of groot aantal mensen het kan bekijken, en de samengestelde video is van een aard die over het algemeen het imago van de beroemdheid zou kunnen verminderen, dan kan het mogelijk worden beschouwd als laster.

Daarom wordt op dit moment verwacht dat, als een beroemdheid het slachtoffer wordt, er vaak zal worden beweerd dat het laster is.

Identificatie van Deepfake-makers

Als je slachtoffer wordt, is het eerste waar je aan denkt het identificeren van de maker. Echter, deepfakes worden vaak verhandeld in een gesloten wereld, en het is niet ongewoon dat hun sporen moeilijk te volgen zijn.

Daarom leggen we uit hoe deepfakes worden gemaakt en hoe de makers ervan kunnen worden geïdentificeerd.

De realiteit van Deepfake-makers

In het geval van de recente arrestaties, kan men zeggen dat de schade aan het licht kwam omdat het openbaar werd gemaakt op een plek die voor iedereen toegankelijk is. Echter, er wordt gezegd dat er een grote vraag is naar volwassen video’s van beroemde entertainers onder de radar, en degenen die deze keer zijn gearresteerd zijn waarschijnlijk slechts het topje van de ijsberg.

Voor veel deepfakes is het mogelijk dat fans van beroemdheden deepfake technici vragen om hun favoriete (vaak volwassen) video’s te maken in speciale gemeenschappen die niet van buitenaf zichtbaar zijn.

Er zijn gevallen waarin betalingen aan technici worden gedaan in cryptocurrency om te voorkomen dat ze worden getraceerd, waardoor het moeilijk kan zijn om de makers te identificeren.

Hoe Deepfake-makers te identificeren

Hoewel het moeilijk is om de maker te identificeren, als het wordt gepubliceerd op een site die voor iedereen toegankelijk is, zoals Twitter, is identificatie mogelijk. Je kunt het IP-adres krijgen dat werd gebruikt toen de video werd getweet van Twitter, en dit gebruiken om de maker te identificeren. Als je de juiste procedures volgt en succesvol bent in het identificeren, kun je zelfs hun adres, naam en e-mailadres te weten komen.

De methode om de maker in dit geval te identificeren is in principe hetzelfde als in gevallen waarin je laster op het internet, zoals op Twitter, hebt ervaren. We hebben de procedure voor het identificeren van posters op het internet in detail uitgelegd in het volgende artikel.

Overigens, deze procedure is civiel, en zelfs als het geen “misdaad” is, wordt het toegestaan zolang er inbreuk wordt gemaakt op het portretrecht of het recht op privacy, zoals hierboven vermeld.

https://monolith.law/reputation/disclosure-of-the-senders-information[ja]

Echter, zoals eerder vermeld, als deepfake video’s worden gemaakt in een gesloten gemeenschap, kan het in werkelijkheid moeilijk zijn om de maker te identificeren.

Een mogelijkheid is dat, zoals in dit geval, als het kan worden beschouwd als een misdaad, de politie de maker van de deepfake kan identificeren door een strafrechtelijke aanklacht in te dienen.

Verwijdering van Deepfake-video’s

Als een deepfake-video de sociale reputatie van het slachtoffer schaadt, is het noodzakelijk om de video te verwijderen.

Bovendien, als de video online wordt gepubliceerd, zal deze zich verspreiden naarmate er meer tijd verstrijkt sinds de publicatie. Daarom is het wenselijk om zo snel mogelijk actie te ondernemen zodra u zich bewust wordt van de schade.

Verzoek tot verwijdering aan de maker van de Deepfake

Als de maker kan worden geïdentificeerd door de bovengenoemde procedure, is het in principe mogelijk om de maker direct te vragen de video te verwijderen.

Als de maker een account heeft op Twitter of Instagram, kan het een optie zijn om contact op te nemen met de persoon via de Direct Message (DM) functie.

Echter, als het slachtoffer contact opneemt met de maker, bestaat het risico dat de maker dit als een kans gebruikt om zijn account en bewijs te verwijderen en te ontsnappen. Daarom is het beter om eerst bewijs dat als bewijs van de schade kan dienen te bewaren voordat u een verzoek tot verwijdering indient bij de maker.

Verzoek tot verwijdering aan de sitebeheerder

Als de maker niet onmiddellijk kan worden geïdentificeerd, of als de maker kan worden geïdentificeerd maar naar verwachting niet zal instemmen met de verwijdering, is er een methode om de beheerder van de site waarop de video is geplaatst om verwijdering te vragen.

Bijvoorbeeld, Twitter of bekende bulletinboards kunnen inhoud verwijderen die in strijd is met de gebruiksvoorwaarden die door het bedrijf zijn vastgesteld.

Als u om verwijdering vraagt op grond van een schending van de gebruiksvoorwaarden, is het belangrijk om de gebruiksvoorwaarden van de website waarop de inhoud is geplaatst te controleren en specifiek aan te geven welke clausule van de gebruiksvoorwaarden wordt geschonden.

Als de beheerder van de website niet instemt met de verwijdering, kunt u via een gerechtelijke procedure, een voorlopige voorziening, om de verwijdering van het problematische artikel vragen. De details van de voorlopige voorziening voor het verwijderen van berichten op het internet worden uitgelegd in het volgende artikel.

https://monolith.law/reputation/provisional-disposition[ja]

Samenvatting

Wanneer beroemdheden of talenten het slachtoffer worden van deepfake, is het noodzakelijk voor het entertainmentbureau om snel informatie te verzamelen.

Als je een video ontdekt die je als deepfake beschouwt, bewaar dan de video en gerelateerde gegevens, evenals de manier waarop ze worden gepost op de site, in de vorm van foto’s, opnames, screenshots, enz., en overweeg onmiddellijk hoe je moet reageren.

Voor de daaropvolgende juridische stappen moet je in principe procedures uitvoeren bij de rechtbank of de politie, dus het is waarschijnlijk dat je een advocaat moet raadplegen. In dat geval wordt het aanbevolen om een advocaat te raadplegen die bekend is met de werking van internet en IT-technologie.