Jak identifikovat tvůrce a odstranit video v případě, že se stanete obětí deepfake

V roce 2020 (Reiwa 2) se objevily zprávy o zatčení osoby, která na Twitteru a placených stránkách zveřejnila video, ve kterém nahradila tváře účinkujících v dospělých videích tvářemi populárních celebrit. Toto bylo považováno za porušení práv na ochranu osobnosti a porušení japonského autorského zákona. Taková videa se nazývají “deepfake”.

Technologie, na které jsou deepfake videa založena, byla původně vyvinuta na Stanfordově univerzitě v USA, ale v posledních letech se v Japonsku zvyšuje počet případů, kdy jsou celebrity a známé osobnosti poškozeny deepfake videi.

V tomto článku vysvětlíme, jak identifikovat autora a proces odstranění videa, pokud byla tvář člena nebo talentu z naší agentury použita bez povolení a video bylo nahráno na video stránku, pro agentury, jejichž členové nebo talenty byli poškozeni deepfake.

Co je to deepfake

Deepfake je nové riziko, které začalo být nedávno vnímáno jako problém. Nejprve vysvětlíme, co je to deepfake a jaké škody jsou s ním spojeny.

Deepfake je technologie využívající AI

Deepfake je slovo vytvořené spojením “deep” z anglického výrazu pro hluboké učení (deep learning) realizované umělou inteligencí (AI) a “fake”, což znamená padělek. Jinými slovy, deepfake je padělané video vytvořené úmyslným využitím technologie hlubokého učení.

V technologii deepfake se připraví stovky až tisíce obrázků cílové osoby, které jsou poté analyzovány algoritmem pomocí hlubokého učení, který se učí rozpoznávat výrazy a rysy tváře dané osoby.

Na základě tohoto učení je možné nahradit video, na kterém je někdo jiný, videem, které vypadá, jako by bylo natočeno cílovou osobou. Nejen obrázky, ale také akcenty a intonace hlasu lze vytvořit pomocí hlubokého učení.

Tradičně, i když byly vytvořeny syntetické obrázky nebo videa, zůstávaly na nízké úrovni přesnosti, která jasně ukazovala, že se jedná o syntézu. Avšak s pokrokem v IT technologiích se nyní může deepfake vytvářet s takovou přesností, že se může zdát, jako by bylo video skutečně natočeno danou osobou.

Proto existuje riziko, že lidé, kteří video vidí, mohou nesprávně věřit, že osoba na videu skutečně řekla a udělala to, co je na videu zobrazeno.

Škody způsobené technologií Deepfake

Technologie Deepfake sama o sobě není špatná. Nicméně, Deepfake umožňuje falšování činů a prohlášení, které daná osoba ve skutečnosti neudělala či neřekla.

Pokud tuto technologii využijí lidé s špatnými úmysly, mohou vytvářet například dospělé filmy s celebritami nebo známými osobnostmi, které ve skutečnosti v těchto filmech nevystupují, jak to bylo v případě nedávných zatčení.

Pokud je vytvořen Deepfake politických nebo ekonomických vůdců, může dojít k tomu, že média, která byla oklamána, šíří falešné zprávy, což může vést k politické nestabilitě nebo diplomatickým problémům. Z tohoto důvodu je toto téma začíná být považováno za problém nejen v Japonsku, ale i na celosvětové úrovni.

Trestnost a nezákonnost deepfake

Došlo k prvnímu zatčení v souvislosti s deepfake. Podle zveřejnění tokijské metropolitní policie, podezřelý zveřejnil na placených stránkách video, na kterém vyměnil tvář pornoherečky za tvář ženské celebrity. Podle zpráv byly při zatčení uvedeny následující dva trestné činy:

• Poškození cti ženské celebrity
• Porušení autorských práv produkční společnosti pro dospělé

Poškození cti

Video bylo v tomto případě zveřejněno na Twitteru a na placených stránkách, které mohou vidět nespecifikované nebo mnoho lidí.

Proto bylo rozhodnuto, že tím, že nespecifikovaný počet diváků dostal dojem, že oběť, ženská celebrita, vystupuje v pornografii, byla poškozena její čest.

Porušení autorských práv

Navíc, autorská práva na dospělé video patří produkční společnosti, která ho vytvořila. Jedním z autorských práv je “právo na zachování identity”, které znamená, že dílo nemůže být bez souhlasu autora libovolně změněno.

V tomto případě byl obsah videa změněn bez svolení produkční společnosti pro dospělé, což znamená, že bylo porušeno její právo na zachování identity.

Porušení soukromí a práva na obraz

Deepfake je technologie, která bez svolení využívá tváře jiných lidí ve videích, což obvykle porušuje takzvané právo na obraz.

Porušení práva na soukromí je stručně řečeno “nezákonné zveřejnění soukromých věcí jednotlivce (bez ohledu na to, zda jsou pravdivé nebo ne)”. Zveřejnění sexuálních záležitostí jednotlivce, ať už jsou falešné nebo ne, obvykle porušuje právo na soukromí.

https://monolith.law/reputation/personal-information-and-privacy-violation[ja]

Avšak porušení práva na obraz a práva na soukromí jsou nezákonné v občanském právu a mohou být základem pro identifikaci autora příspěvku, odstranění videa a žádost o náhradu škody od pachatele, ale nejsou to “trestné činy”. Proto nelze pouhým podáním stížnosti na takové škody vyzvat policii k vyšetřování.

Zákon nedokáže držet krok s technologickým vývojem

Samozřejmě, ne všechny deepfake se stávají trestnými činy prostřednictvím poškození cti nebo porušení autorských práv. Základním předpokladem současného zákona není, že by bylo možné vytvářet sofistikované deepfake videa pomocí pokročilé AI technologie. Proto existují případy, které podle současného zákona nemohou být trestně stíhány.

Pokud je video, jako to, kvůli kterému byla osoba zatčena, zveřejněno tak, že ho může vidět nespecifikovaný nebo velký počet lidí, a pokud je složené video obecně považováno za snižující image celebrity, může být možné ho stíhat za poškození cti.

Proto se v současné době domníváme, že pokud je celebrita obětí, je pravděpodobné, že bude často tvrdit, že došlo k poškození cti.

Identifikace tvůrců Deepfake

Pokud se stanete obětí, první věc, kterou byste měli zvážit, je identifikace tvůrce. Nicméně, Deepfake je často obchodován v uzavřeném světě a není neobvyklé, že jeho stopy jsou těžko sledovatelné.

V tomto článku vysvětlíme, jakým způsobem je vytvářen Deepfake a jak lze identifikovat jeho tvůrce.

Skutečnost tvůrců Deepfake

V případě nedávného incidentu, kdy došlo k zatčení, můžeme říci, že škoda vyšla najevo, protože byla zveřejněna na místě, které může kdokoli prohlížet. Nicméně, je řečeno, že existuje velká poptávka po dospělých filmech s významnými celebritami pod povrchem, a je možné, že toto zatčení je jen špička ledovce.

Co se týče mnoha Deepfake, je možné, že fanoušci celebrit požádají techniky Deepfake o vytvoření videa podle svých preferencí (často dospělých) v speciálních komunitách, které nejsou viditelné zvenčí.

Existují případy, kdy se platí technikům v kryptoměnách, aby nebyly nalezeny stopy, což může ztížit identifikaci tvůrce.

Metody identifikace tvůrců Deepfake

Ačkoli je identifikace tvůrce obtížná, pokud je video zveřejněno na webových stránkách, které může kdokoli přistupovat, jako je Twitter, je možné tvůrce identifikovat. Můžete získat IP adresu, která byla použita při tweetování videa od společnosti Twitter, a tuto informaci použít k identifikaci tvůrce. Pokud postupujete podle oficiálních postupů a identifikace je úspěšná, můžete zjistit i adresu, jméno a e-mailovou adresu.

Metoda identifikace tvůrce v tomto případě je v zásadě stejná jako v případě, kdy jste byli pomlouváni na internetu, jako je Twitter. Podrobněji vysvětlujeme postup identifikace autora na internetu v následujícím článku.

Je třeba poznamenat, že tento postup je civilní a je povolen, pokud je porušeno právo na soukromí nebo právo na obraz, jak je uvedeno výše, i když to není “zločin”.

https://monolith.law/reputation/disclosure-of-the-senders-information[ja]

Avšak, jak bylo uvedeno výše, pokud je video Deepfake vytvořeno v uzavřené komunitě, může být v praxi obtížné identifikovat tvůrce.

Jednou z možností je, že pokud incident, jako je tento, může být považován za trestný čin, může být tvůrce Deepfake identifikován prostřednictvím policejního vyšetřování tím, že podáte trestní oznámení.

Odstranění videí Deepfake

Pokud obsah videa Deepfake snižuje sociální image oběti, je nutné video vždy odstranit.

Dále, pokud je video zveřejněno na internetu, šíří se s postupem času. Proto je žádoucí, aby jste co nejdříve jednali, jakmile si všimnete škody.

Žádost o odstranění tvůrci Deepfake

Pokud je tvůrce identifikován předchozím postupem, je také možné požádat tvůrce přímo o odstranění videa.

Pokud tvůrce má účet na Twitteru nebo Instagramu, můžete se s ním spojit pomocí funkce přímé zprávy (DM).

Avšak pokud oběť kontaktuje tvůrce, existuje riziko, že tvůrce využije tuto příležitost k odstranění účtu a důkazů a uprchne. Proto byste měli požádat o odstranění tvůrce až poté, co jste uložili vše, co by mohlo sloužit jako důkaz škody.

Žádost o odstranění správci webu

Pokud tvůrce nemůže být okamžitě identifikován, nebo pokud je identifikován, ale nepředpokládá se, že by souhlasil s odstraněním, existuje metoda žádosti o odstranění správci webu, na kterém je video zveřejněno.

Například, Twitter nebo známé diskusní fórum mohou odstranit obsah, který porušuje podmínky použití stanovené provozovatelem.

Při žádosti o odstranění pro porušení podmínek použití je důležité zkontrolovat podmínky použití webové stránky, na které je obsah zveřejněn, a konkrétně uvést, které články podmínek použití jsou porušeny.

Pokud správce webu nesouhlasí s odstraněním, můžete požádat o odstranění problémového článku prostřednictvím soudního řízení, jako je předběžné opatření. Podrobnosti o předběžných opatřeních pro odstranění příspěvků na internetu jsou vysvětleny v následujícím článku.

https://monolith.law/reputation/provisional-disposition[ja]

Shrnutí

Pokud se celebrita nebo talent stane obětí deepfake, je třeba, aby jejich umělecká agentura rychle shromáždila informace.

Pokud objevíte video, které se zdá být deepfake, ukládejte fotografie, nahrávky, snímky obrazovky atd. stránek a situací, kde je video nebo související data zveřejněno, a okamžitě zvažte možnosti řešení.

Co se týče dalších právních kroků, budete pravděpodobně potřebovat konzultovat s právníkem, protože budete muset podniknout kroky vůči soudu nebo policii. V takovém případě doporučujeme konzultovat s právníkem, který je dobře obeznámen s internetem a IT technologiemi.