Πώς να εντοπίσετε τον δημιουργό και να διαγράψετε το βίντεο σε περίπτωση που έχετε πέσει θύμα του Deepfake

Το 2020 (Έτος Reiwa 2), ένας άνθρωπος που δημοσίευσε βίντεο στο Twitter και σε πληρωμένες ιστοσελίδες, αντικαθιστώντας τα πρόσωπα των πρωταγωνιστών ενηλίκων βίντεο με τα πρόσωπα δημοφιλών Ιαπωνικών διασήμων, συνελήφθη για δυσφήμιση και παραβίαση του Ιαπωνικού νόμου περί πνευματικών δικαιωμάτων. Αυτά τα βίντεο ονομάζονται “Deepfake”.

Η τεχνολογία που αποτελεί τη βάση των Deepfake αναπτύχθηκε αρχικά στο Πανεπιστήμιο Stanford των ΗΠΑ, αλλά τα τελευταία χρόνια έχουν αυξηθεί τα περιστατικά στην Ιαπωνία όπου διάσημοι και καλλιτέχνες έχουν πληγεί από βίντεο Deepfake.

Σε αυτό το άρθρο, θα εξηγήσουμε τη διαδικασία εντοπισμού του ανεβάσματος και διαγραφής βίντεο για τα οποία έχει χρησιμοποιηθεί παράνομα το πρόσωπο ενός καλλιτέχνη ή διάσημου προσώπου, προκειμένου να βοηθήσουμε τις εταιρείες διαχείρισης ταλέντων που έχουν υποστεί ζημιά από τα βίντεο Deepfake.

Τι είναι το Deepfake

Το Deepfake είναι ένας νέος κίνδυνος που άρχισε να αντιμετωπίζεται πρόσφατα. Αρχικά, θα εξηγήσουμε τι είναι το Deepfake και ποιες είναι οι ανησυχίες για τις πιθανές ζημιές.

Το Deepfake είναι μια τεχνολογία που εκμεταλλεύεται την AI

Το Deepfake είναι μια λέξη που δημιουργήθηκε από τη συνένωση των λέξεων “Deep”, που αναφέρεται στην “βαθιά” μάθηση (Deep Learning) της Τεχνητής Νοημοσύνης (AI), και “Fake”, που σημαίνει ψεύτικο. Συνεπώς, το Deepfake αναφέρεται σε ψεύτικα βίντεο που δημιουργούνται επίτηδες με τη χρήση της τεχνολογίας Deep Learning.

Με την τεχνολογία Deepfake, αν προετοιμάσετε από μερικές εκατοντάδες έως χιλιάδες εικόνες του στόχου, ο αλγόριθμος μαθαίνει και αναλύει τις εκφράσεις και τα χαρακτηριστικά του προσώπου του στόχου μέσω της Deep Learning.

Βασισμένο σε αυτή τη μάθηση, μπορείτε να αντικαταστήσετε ένα βίντεο που περιέχει κάποιον άλλον με ένα βίντεο που φαίνεται να έχει γίνει από τον στόχο. Όχι μόνο τις εικόνες, αλλά και την προφορά και την έμφαση της φωνής μπορείτε να δημιουργήσετε με την Deep Learning.

Παραδοσιακά, ακόμη και αν δημιουργούσατε συνθετικές εικόνες και βίντεο, η ακρίβεια ήταν τόσο χαμηλή που ήταν προφανές ότι ήταν συνθετικά. Ωστόσο, χάρη στην πρόοδο της τεχνολογίας της πληροφορικής στις μέρες μας, τα Deepfake μπορούν να δημιουργηθούν με τέτοια ακρίβεια που μπορεί να σας κάνουν να τα μπερδέψετε με βίντεο του ίδιου του ατόμου.

Ως εκ τούτου, υπάρχει κίνδυνος οι άνθρωποι που βλέπουν το βίντεο να παρεξηγήσουν ότι το άτομο έχει πράξει όπως φαίνεται στο βίντεο.

Ζημιές από την τεχνολογία Deepfake

Η τεχνολογία Deepfake δεν είναι κακή από μόνη της. Ωστόσο, με την τεχνολογία Deepfake, είναι δυνατόν να δημιουργηθεί η ψευδαίσθηση ότι ο στόχος έχει κάνει κάτι ή έχει πει κάτι που δεν έχει πραγματικά κάνει.

Για αυτόν τον λόγο, αν κάποιος με κακή πρόθεση χρησιμοποιήσει την τεχνολογία Deepfake, είναι δυνατόν να δημιουργήσει πορνογραφικά βίντεο με διάσημα πρόσωπα που δεν έχουν πραγματικά συμμετάσχει, όπως συνέβη στην περίπτωση που οδήγησε σε συλλήψεις.

Επιπλέον, αν δημιουργηθεί Deepfake ενός πολιτικού ή οικονομικού ηγέτη, τα μέσα ενημέρωσης που θα το πιστέψουν μπορεί να διαδώσουν ψευδείς ειδήσεις, προκαλώντας πολιτική αναστάτωση ή διπλωματικά προβλήματα. Για αυτόν τον λόγο, το θέμα αυτό αρχίζει να αντιμετωπίζεται ως πρόβλημα όχι μόνο στην Ιαπωνία, αλλά και παγκοσμίως.

Εγκληματικότητα και παρανομία των Deepfakes

Πρόσφατα, έγινε η πρώτη σύλληψη σχετικά με τη χρήση Deepfakes. Σύμφωνα με την ανακοίνωση της Αστυνομίας του Τόκιο, ο ύποπτος δημοσίευσε βίντεο σε ιστοσελίδες με συνδρομή, όπου είχε αντικαταστήσει το πρόσωπο μιας ηθοποιού πορνό με το πρόσωπο μιας γυναίκας διασήμης. Σύμφωνα με τις αναφορές, οι κατηγορίες κατά της σύλληψης ήταν οι εξής:

• Δυσφήμιση εναντίον της γυναίκας διασήμης
• Παραβίαση των πνευματικών δικαιωμάτων της εταιρείας παραγωγής πορνό

Δυσφήμιση

Το βίντεο δημοσιεύτηκε σε μέρη που μπορούν να το δουν αόριστοι ή πολλοί άνθρωποι, όπως το Twitter και ιστοσελίδες με συνδρομή.

Ως εκ τούτου, κρίθηκε ότι έχει δυσφημιστεί η τιμή της γυναίκας διασήμης, δίνοντας την εντύπωση σε αόριστους θεατές ότι εμφανίζεται σε πορνό.

Παραβίαση των πνευματικών δικαιωμάτων

Επιπλέον, η εταιρεία παραγωγής πορνό, ως δημιουργός του πορνό, έχει τα πνευματικά δικαιώματα. Ένα από τα πνευματικά δικαιώματα είναι το “δικαίωμα διατήρησης της ταυτότητας”, το οποίο απαγορεύει την αυθαίρετη τροποποίηση του έργου χωρίς τη συγκατάθεση του δημιουργού.

Σε αυτή την περίπτωση, το περιεχόμενο του βίντεο τροποποιήθηκε χωρίς την άδεια της εταιρείας παραγωγής πορνό, καταπατώντας το δικαίωμα διατήρησης της ταυτότητας της εταιρείας.

Παραβίαση της ιδιωτικότητας και των δικαιωμάτων πορτραίτου

Τα Deepfakes, που χρησιμοποιούν το πρόσωπο κάποιου άλλου χωρίς άδεια, συνήθως παραβιάζουν τα δικαιώματα πορτραίτου.

Επιπλέον, η παραβίαση της ιδιωτικότητας, για να το πούμε απλά, είναι “παράνομο να δημοσιεύεται κάτι προσωπικό για κάποιον (ανεξάρτητα από το αν είναι αλήθεια ή όχι) χωρίς άδεια”. Η δημοσίευση σεξουαλικών περιστατικών για κάποιον, ακόμη και αν είναι πλαστά, συνήθως αποτελεί παραβίαση της ιδιωτικότητας.

https://monolith.law/reputation/personal-information-and-privacy-violation[ja]

Ωστόσο, η παραβίαση των δικαιωμάτων πορτραίτου και της ιδιωτικότητας είναι παράνομη σε αστικό επίπεδο και μπορεί να αποτελέσει βάση για την αναγνώριση του δημοσιευτή, την αφαίρεση του βίντεο και την απαίτηση αποζημίωσης από τον δράστη, αλλά δεν αποτελεί “έγκλημα”. Ως εκ τούτου, δεν μπορείτε να παροτρύνετε την αστυνομία να ερευνήσει απλά καταγγέλλοντας αυτές τις ζημίες.

Ο νόμος δεν προλαβαίνει την τεχνολογική εξέλιξη

Ωστόσο, δεν είναι όλα τα Deepfakes που γίνονται εγκληματικά μέσω δυσφήμισης ή παραβίασης των πνευματικών δικαιωμάτων. Οι τρέχοντες νόμοι δεν λαμβάνουν υπόψη την ικανότητα δημιουργίας εξαιρετικά ρεαλιστικών βίντεο Deepfakes μέσω της προόδου της τεχνολογίας AI. Ως εκ τούτου, υπάρχουν περιπτώσεις που δεν μπορούν να καταδικαστούν ως εγκλήματα βάσει του τρέχοντος νόμου.

Όπως στο βίντεο που οδήγησε στη σύλληψη, αν το βίντεο δημοσιεύεται σε μέρη που μπορούν να το δουν αόριστοι ή πολλοί άνθρωποι, και αν το συνθετικό βίντεο έχει περιεχόμενο που γενικά υποβαθμίζει την εικόνα του διασήμου, μπορεί να καταδικαστεί για δυσφήμιση.

Ως εκ τούτου, στο παρόν στάδιο, αν ένας διάσημος πέσει θύμα, είναι πιθανό να υποστηρίξει ότι αποτελεί δυσφήμιση.

Εντοπισμός του δημιουργού Deepfake

Σε περίπτωση που γίνετε θύμα, το πρώτο πράγμα που πρέπει να σκεφτείτε είναι ο εντοπισμός του δημιουργού. Ωστόσο, τα Deepfake συχνά διακινούνται σε κλειστές κοινότητες και δεν είναι σπάνιο να είναι δύσκολο να εντοπιστούν.

Εδώ, θα εξηγήσουμε πώς δημιουργούνται τα Deepfake και πώς μπορεί να εντοπιστεί ο δημιουργός τους.

Η πραγματικότητα των δημιουργών Deepfake

Στην περίπτωση του πρόσφατου συλληφθέντος, μπορεί να λεχθεί ότι το θύμα έγινε γνωστό επειδή δημοσιεύτηκε σε έναν χώρο προσβάσιμο σε όλους. Ωστόσο, λέγεται ότι υπάρχει μεγάλη ζήτηση για πορνογραφικά βίντεο διάσημων καλλιτεχνών κάτω από το ραντάρ, και οι συλλήψεις αυτές είναι μόνο η κορυφή του παγόβουνου.

Πολλά Deepfake μπορεί να έχουν δημιουργηθεί από οπαδούς διάσημων προσώπων που ζητούν από τεχνικούς Deepfake να δημιουργήσουν βίντεο (συχνά πορνογραφικά) σύμφωνα με τις προτιμήσεις τους σε κλειστές κοινότητες που δεν μπορούν να παρακολουθηθούν από το εξωτερικό.

Υπάρχουν περιπτώσεις πληρωμής των τεχνικών με κρυπτονομίσματα για να αποφευχθεί η ανίχνευση, κάνοντας τον εντοπισμό του δημιουργού δύσκολο.

Μέθοδοι εντοπισμού του δημιουργού Deepfake

Παρόλο που ο εντοπισμός του δημιουργού είναι δύσκολος, είναι δυνατόν αν το βίντεο δημοσιευτεί σε έναν ιστότοπο προσβάσιμο σε όλους, όπως το Twitter. Μπορείτε να εντοπίσετε τον δημιουργό με βάση την IP διεύθυνση που χρησιμοποιήθηκε για την ανάρτηση του βίντεο, την οποία μπορείτε να λάβετε από την εταιρεία Twitter. Αν ακολουθήσετε την κατάλληλη διαδικασία και επιτύχετε στον εντοπισμό, μπορείτε να μάθετε τη διεύθυνση, το όνομα και την ηλεκτρονική διεύθυνση του δημιουργού.

Η μέθοδος εντοπισμού του δημιουργού σε αυτή την περίπτωση είναι ουσιαστικά η ίδια με τις περιπτώσεις όπου υπάρχουν δυσφημιστικά σχόλια στο διαδίκτυο, όπως το Twitter. Έχουμε εξηγήσει λεπτομερώς τη διαδικασία εντοπισμού του αποστολέα στο διαδίκτυο στο παρακάτω άρθρο.

Σημειώνεται ότι αυτή η διαδικασία είναι αστικής φύσης και επιτρέπεται ακόμη και αν δεν πρόκειται για “έγκλημα”, όσο υπάρχει παραβίαση του δικαιώματος στην εικόνα ή την ιδιωτικότητα, όπως αναφέρθηκε παραπάνω.

https://monolith.law/reputation/disclosure-of-the-senders-information[ja]

Ωστόσο, όπως αναφέρθηκε παραπάνω, αν το βίντεο Deepfake δημιουργηθεί σε μια κλειστή κοινότητα, μπορεί να είναι δύσκολο στην πραγματικότητα να εντοπιστεί ο δημιουργός.

Ως μία δυνατότητα, όπως στην περίπτωση αυτού του περιστατικού, αν υπάρχει κάποιο έγκλημα, μπορεί να είναι δυνατόν να εντοπιστεί ο δημιουργός του Deepfake μέσω της αστυνομικής έρευνας μετά από μια ποινική καταγγελία.

Διαγραφή βίντεο Deepfake

Εάν το βίντεο Deepfake περιέχει περιεχόμενο που μειώνει την κοινωνική εικόνα του θύματος, είναι απαραίτητο να διαγραφεί.

Επιπλέον, όταν το βίντεο δημοσιεύεται στο διαδίκτυο, η διάδοσή του αυξάνεται όσο περνάει ο χρόνος. Για αυτόν τον λόγο, είναι επιθυμητό να αντιμετωπίσετε το πρόβλημα το συντομότερο δυνατόν μόλις αντιληφθείτε τη ζημία.

Αίτηση διαγραφής προς τον δημιουργό του Deepfake

Εάν ο δημιουργός έχει εντοπιστεί μέσω της προαναφερθείσας διαδικασίας, είναι επίσης δυνατόν να ζητήσετε απευθείας από τον δημιουργό να διαγράψει το βίντεο.

Εάν ο δημιουργός έχει λογαριασμό σε Twitter ή Instagram, μπορείτε να επιλέξετε να επικοινωνήσετε μαζί του χρησιμοποιώντας τη λειτουργία Direct Message (DM).

Ωστόσο, υπάρχει κίνδυνος ο δημιουργός να διαγράψει τον λογαριασμό του ή τα στοιχεία απόδειξης και να διαφύγει εάν το θύμα επικοινωνήσει μαζί του. Γι’ αυτό, θα ήταν καλύτερο να ζητήσετε τη διαγραφή από τον δημιουργό μετά την αποθήκευση των στοιχείων που μπορούν να αποτελέσουν αποδεικτικά στοιχεία της ζημίας.

Αίτηση διαγραφής προς τον διαχειριστή του ιστότοπου

Εάν ο δημιουργός δεν μπορεί να εντοπιστεί αμέσως ή αν έχει εντοπιστεί αλλά δεν φαίνεται να συμφωνεί με τη διαγραφή, υπάρχει η μέθοδος της αίτησης διαγραφής προς τον διαχειριστή του ιστότοπου που δημοσιεύτηκε.

Για παράδειγμα, σε Twitter ή δημοφιλή φόρουμ, η εταιρεία που τα διαχειρίζεται μπορεί να διαγράψει περιεχόμενο που παραβιάζει τους όρους χρήσης που έχουν καθορίσει.

Όταν ζητάτε διαγραφή λόγω παραβίασης των όρων χρήσης, είναι σημαντικό να ελέγξετε τους όρους χρήσης της υπηρεσίας του ιστότοπου που δημοσιεύτηκε και να διευκρινίσετε συγκεκριμένα ποιο άρθρο των όρων χρήσης παραβιάζεται.

Επιπλέον, εάν ο διαχειριστής του ιστότοπου δεν συμφωνεί με τη διαγραφή, μπορείτε να ζητήσετε τη διαγραφή του άρθρου που παρουσιάζει πρόβλημα μέσω μιας διαδικασίας που περνάει από το δικαστήριο, την προσωρινή διάταξη. Για την προσωρινή διάταξη για τη διαγραφή δημοσιεύσεων στο διαδίκτυο, παρακαλούμε ανατρέξτε στο παρακάτω άρθρο για λεπτομερή εξήγηση.

https://monolith.law/reputation/provisional-disposition[ja]

Σύνοψη

Σε περίπτωση που διάσημοι ή ταλέντα πέφτουν θύματα του deepfake, είναι απαραίτητο για τα καλλιτεχνικά γραφεία να συλλέγουν πληροφορίες γρήγορα.

Επίσης, αν ανακαλύψετε ένα βίντεο που φαίνεται να είναι deepfake, αποθηκεύστε το βίντεο και τα σχετικά δεδομένα που έχουν δημοσιευτεί στον ιστότοπο, καθώς και την κατάσταση της δημοσίευσης, με φωτογραφίες, ηχογραφήσεις, στιγμιότυπα οθόνης κλπ., και αμέσως εξετάστε τις μεθόδους αντιμετώπισης.

Όσον αφορά την νομική αντιμετώπιση που ακολουθεί, είναι απαραίτητο να διεξαχθούν διαδικασίες ενώπιον των δικαστηρίων και της αστυνομίας, οπότε συνήθως θα χρειαστεί να συμβουλευτείτε έναν δικηγόρο. Σε αυτή την περίπτωση, συνιστάται να συμβουλευτείτε έναν δικηγόρο που είναι εξοικειωμένος με τη δομή του Διαδικτύου και της τεχνολογίας IT.