Jak zidentyfikować twórcę i usunąć film w przypadku doświadczenia szkód związanych z deepfake

W 2020 roku (rok Reiwa 2) pojawiły się wiadomości o aresztowaniu osoby, która opublikowała na Twitterze i na płatnych stronach internetowych filmy dla dorosłych, w których twarze aktorów zostały zastąpione twarzami popularnych celebrytów. Takie działanie zostało uznane za naruszenie praw autorskich i zniesławienie. Takie filmy nazywane są “deepfake”.

Technologia, na której opiera się deepfake, została pierwotnie opracowana na amerykańskim Uniwersytecie Stanforda, ale w ostatnich latach w Japonii wzrasta liczba przypadków, w których celebryci i znane osoby padają ofiarami filmów deepfake.

W tym artykule wyjaśniamy dla agencji artystycznych, których członkowie lub talenty padły ofiarami deepfake, jak zidentyfikować osobę, która bezprawnie użyła ich twarzy i opublikowała film na stronie internetowej, oraz jak przebiega proces usuwania takiego filmu.

Co to jest deepfake?

Deepfake to nowe ryzyko, które zaczęło być problematyzowane ostatnio. Na początku wyjaśnimy, czym jest deepfake i jakie szkody mogą z niego wynikać.

Deepfake to technologia wykorzystująca AI

Deepfake to słowo utworzone z połączenia “deep” od deep learning (głębokie uczenie) realizowanego przez sztuczną inteligencję (AI) i “fake” oznaczającego fałszywek. Innymi słowy, deepfake to fałszywe filmy stworzone celowo za pomocą technologii deep learning.

W technologii deepfake, jeśli przygotujesz od kilkuset do kilku tysięcy zdjęć osoby, której dotyczy, algorytm analizuje i uczy się wyrazu twarzy i wyglądu tej osoby za pomocą deep learning.

Na podstawie tego uczenia, można podmienić film, w którym pojawia się inna osoba, na film, w którym pojawia się osoba, której dotyczy. Nie tylko obrazy, ale także akcenty i intonacje głosu można tworzyć za pomocą deep learning.

Tradycyjnie, nawet jeśli tworzono syntetyczne obrazy i filmy, były one na niskim poziomie precyzji, które wyraźnie wskazywały, że są syntetyczne. Jednak dzięki postępowi w technologii IT, deepfake może teraz być tworzone z taką precyzją, że można je pomylić z prawdziwym filmem osoby.

Z tego powodu istnieje ryzyko, że osoba oglądająca film może błędnie uznać, że osoba na filmie zachowywała się tak, jak na filmie.

Szkody spowodowane przez deepfake

Sam technologia deepfake nie jest zła. Jednak deepfake pozwala na fałszowanie działań i wypowiedzi osoby, której dotyczy, której ta osoba nie wykonała w rzeczywistości.

Z tego powodu, jeśli osoba o złych zamiarach wykorzysta deepfake, jak w przypadku ostatniego aresztowania, możliwe jest stworzenie filmów dla dorosłych, w których nie występują rzeczywiście znane osoby lub celebryci.

Ponadto, jeśli zostanie stworzony deepfake osoby na stanowisku wpływającym na politykę i gospodarkę, takiej jak wysoki urzędnik rządowy, media, które zostały oszukane, mogą rozpowszechniać go jako fałszywe wiadomości, co może prowadzić do politycznej niestabilności i problemów dyplomatycznych. Z tego powodu zaczyna być problematyzowany nie tylko w Japonii, ale na całym świecie.

Przestępczość i nielegalność deepfake

Tym razem doszło do pierwszego aresztowania związanego z deepfake. Według ogłoszenia policji, podejrzany opublikował na płatnych stronach internetowych film, w którym twarz aktorki filmów dla dorosłych została podmieniona na twarz znanej aktorki. Według doniesień, zarzuty podczas aresztowania były następujące:

• Zniesławienie znanej aktorki
• Naruszenie praw autorskich firmy produkującej filmy dla dorosłych

Zniesławienie

Film w tym incydencie został opublikowany na Twitterze i na płatnych stronach internetowych, gdzie może go zobaczyć nieokreślona liczba osób.

Z tego powodu, uznano, że stworzyło to wrażenie u nieokreślonej liczby widzów, że znana aktorka występuje w filmach dla dorosłych, co zniesławiło jej reputację.

Naruszenie praw autorskich

Ponadto, prawa autorskie do filmów dla dorosłych należą do firmy produkującej te filmy. Jednym z praw autorskich jest “prawo do zachowania tożsamości”, które oznacza prawo do niezmieniania dzieła bez zgody autora.

W tym incydencie, treść filmu została zmieniona bez zgody firmy produkującej filmy dla dorosłych, co narusza jej prawo do zachowania tożsamości.

Naruszenie prywatności i praw do wizerunku

Deepfake polega na nieautoryzowanym wykorzystaniu twarzy innej osoby w filmie, co zazwyczaj stanowi naruszenie tzw. praw do wizerunku.

Ponadto, naruszenie prawa do prywatności, mówiąc prosto, polega na “nielegalnym publikowaniu prywatnych spraw danej osoby (niezależnie od tego, czy są prawdziwe) bez jej zgody”. Publikowanie seksualnych zdarzeń dotyczących danej osoby, nawet jeśli są sfałszowane, zazwyczaj stanowi naruszenie prawa do prywatności.

https://monolith.law/reputation/personal-information-and-privacy-violation[ja]

Jednak naruszenie praw do wizerunku i prywatności jest nielegalne w prawie cywilnym, i choć może stanowić podstawę do identyfikacji osoby publikującej i usunięcia filmu, a także do żądania odszkodowania od sprawcy, nie jest “przestępstwem”. Dlatego, nawet jeśli zgłosisz takie szkody, nie możesz zmusić policji do śledztwa.

Prawo nie nadąża za rozwojem technologii

Jednak nie wszystkie deepfake stają się przestępstwem poprzez zniesławienie lub naruszenie praw autorskich. Obecne prawo nie zakłada, że zaawansowana technologia AI umożliwia tworzenie precyzyjnych filmów deepfake. Dlatego obecnie istnieją takie, które nie mogą być pociągnięte do odpowiedzialności karnej jako przestępstwo na mocy obecnego prawa.

Jeśli film, jak ten, który doprowadził do aresztowania, jest publikowany w miejscu, gdzie może go zobaczyć nieokreślona liczba osób, i jeśli syntetyczny film ma treść, która generalnie obniża wizerunek znanej osoby, może być możliwe pociągnięcie do odpowiedzialności za zniesławienie.

Dlatego, na obecnym etapie, jeśli znana osoba jest ofiarą, prawdopodobnie będzie często twierdzić, że jest to zniesławienie.

Identyfikacja twórców deepfake

W przypadku doświadczenia szkód, pierwszą rzeczą, o której myślimy, jest identyfikacja twórcy. Jednakże, deepfake często jest handlowany w zamkniętym świecie, co często utrudnia nam śledzenie jego śladów.

W związku z tym, wyjaśnimy, w jakim świecie tworzy się deepfake i jak zidentyfikować twórców deepfake.

Rzeczywistość twórców deepfake

W przypadku incydentu, który doprowadził do aresztowania, można powiedzieć, że szkoda wyszła na jaw, ponieważ została opublikowana w miejscu dostępnym dla wszystkich. Jednakże, mówi się, że istnieje duże zapotrzebowanie na filmy dla dorosłych z udziałem znanych celebrytów pod powierzchnią, a osoby aresztowane tym razem są prawdopodobnie tylko wierzchołkiem góry lodowej.

W przypadku wielu deepfake, istnieje możliwość, że fani celebrytów zlecają twórcom technologii deepfake stworzenie filmów (często dla dorosłych) według ich gustu w specjalnej społeczności, która nie jest widoczna z zewnątrz.

W niektórych przypadkach, aby nie zostawić śladów, wynagrodzenie dla techników jest płatne w kryptowalutach, co może utrudniać identyfikację twórcy.

Metody identyfikacji twórców deepfake

Chociaż identyfikacja twórcy jest trudna, jeśli zostanie opublikowany na stronie dostępnej dla wszystkich, takiej jak Twitter, identyfikacja staje się możliwa. Można zidentyfikować twórcę, otrzymując informacje o adresie IP używanym podczas tweetowania filmu od Twittera. Po przeprowadzeniu odpowiednich procedur, jeśli identyfikacja jest udana, można dowiedzieć się nawet adresu, nazwiska i adresu e-mail.

Metoda identyfikacji twórcy w tym przypadku jest zasadniczo taka sama jak w przypadku, gdy jest się obiektem zniesławienia w Internecie, takim jak na Twitterze. Szczegółowe wyjaśnienie procedury identyfikacji autora postu w Internecie znajduje się w poniższym artykule.

Należy zauważyć, że ta procedura jest cywilna, a nawet jeśli nie jest to “przestępstwo”, jest dozwolona, o ile, jak wspomniano powyżej, dochodzi do naruszenia praw do wizerunku lub prywatności.

https://monolith.law/reputation/disclosure-of-the-senders-information[ja]

Jednakże, jak wspomniano wcześniej, jeśli film deepfake jest tworzony w zamkniętej społeczności, w praktyce może być trudne zidentyfikowanie twórcy.

Jedną z możliwości jest to, że jeśli, jak w tym przypadku, można powiedzieć, że jest to jakiś rodzaj przestępstwa, można zidentyfikować twórcę deepfake poprzez śledztwo policji po złożeniu doniesienia kryminalnego.

Usunięcie filmów Deepfake

Jeżeli filmy Deepfake obniżają społeczny wizerunek ofiary, konieczne jest ich usunięcie.

Dodatkowo, jeżeli film jest publikowany w internecie, z biegiem czasu może się rozprzestrzeniać. Dlatego zaleca się jak najszybsze działanie, gdy zauważysz szkodę.

Żądanie usunięcia od twórcy Deepfake

Jeżeli twórca jest zidentyfikowany za pomocą powyższych procedur, możliwe jest bezpośrednie żądanie od niego usunięcia filmu.

Jeżeli twórca posiada konto na Twitterze lub Instagramie, możliwe jest skontaktowanie się z nim za pomocą funkcji Direct Mail (DM).

Jednakże, jeśli ofiara skontaktuje się z twórcą, istnieje ryzyko, że ten usunie konto lub dowody i ucieknie. Dlatego zaleca się złożenie żądania usunięcia do twórcy dopiero po zachowaniu dowodów szkody.

Żądanie usunięcia od administratora strony

Jeżeli twórca nie może być natychmiast zidentyfikowany, lub jeżeli jest zidentyfikowany, ale nie jest skłonny do usunięcia, istnieje metoda żądania usunięcia od administratora strony, na której jest opublikowany.

Na przykład, Twitter lub popularne fora mogą usunąć treści naruszające regulamin ustalony przez firmę.

Jeżeli żądasz usunięcia na podstawie naruszenia regulaminu, ważne jest, aby sprawdzić regulamin usług strony internetowej, na której jest opublikowany, i wyraźnie określić, które postanowienia regulaminu są naruszone.

Jeżeli administrator strony internetowej nie zgodzi się na usunięcie, możliwe jest żądanie usunięcia problematycznego artykułu za pomocą procedury sądowej, tzw. środków tymczasowych. Szczegółowe informacje na temat środków tymczasowych do usuwania postów w internecie znajdują się w poniższym artykule.

https://monolith.law/reputation/provisional-disposition[ja]

Podsumowanie

Gdy celebryci lub osoby publiczne padają ofiarą deepfake, agencje artystyczne muszą szybko zbierać informacje.

Ponadto, gdy odkryjesz film, który wydaje się być deepfake, zaleca się zapisanie filmu lub powiązanych danych, jak również strony internetowej, na której zostały opublikowane, oraz sposób ich publikacji, za pomocą zdjęć, nagrań wideo lub zrzutów ekranu, a następnie natychmiast rozważyć możliwe środki zaradcze.

Jeśli chodzi o późniejsze działania prawne, konieczne będzie podjęcie procedur wobec sądu lub policji, więc zasadniczo zaleca się skonsultowanie się z prawnikiem. W takim przypadku, zaleca się skonsultowanie się z prawnikiem specjalizującym się w Internecie i technologii IT.