Identification de l'auteur et méthode de suppression de la vidéo en cas de préjudice causé par le 'Deepfake

En 2020 (Reiwa 2), une nouvelle a fait la une des médias : une personne qui avait publié sur Twitter et sur des sites payants des vidéos pour adultes, dans lesquelles les visages des acteurs étaient remplacés par ceux de célébrités populaires, a été arrêtée pour diffamation et violation de la loi japonaise sur le droit d’auteur. Ces types de vidéos sont appelés “deepfakes”.

La technologie à l’origine des deepfakes a été initialement développée à l’Université de Stanford aux États-Unis, mais ces dernières années, le nombre de cas où des célébrités et des personnalités publiques au Japon sont victimes de vidéos deepfake a augmenté.

Dans cet article, nous expliquerons aux agences de talents et de célébrités dont les membres ont été victimes de deepfakes, comment identifier l’auteur de la vidéo et le processus de suppression de la vidéo lorsqu’elle est téléchargée sur un site de vidéos sans autorisation.

Qu’est-ce que le Deepfake ?

Le Deepfake est un nouveau risque qui a commencé à être pris en compte récemment. Tout d’abord, nous expliquerons ce qu’est le Deepfake et quels sont les dommages potentiels qui sont préoccupants.

Le Deepfake est une technologie basée sur l’IA

Le terme Deepfake est une combinaison de “Deep” qui fait référence à l’apprentissage profond (Deep Learning) par l’intelligence artificielle (IA) et de “Fake” qui signifie faux. En d’autres termes, un Deepfake est une vidéo fausse créée intentionnellement en utilisant la technologie d’apprentissage profond.

Avec la technologie Deepfake, si vous préparez plusieurs centaines à plusieurs milliers d’images de la personne cible, l’algorithme apprend à analyser les expressions faciales et les traits du visage de la personne cible grâce à l’apprentissage profond.

Sur la base de cet apprentissage, il est possible de remplacer une vidéo dans laquelle une autre personne apparaît par une vidéo de la personne cible. Non seulement les images, mais aussi l’accent et l’intonation de la voix peuvent être créés de la même manière grâce à l’apprentissage profond.

Auparavant, même si des images ou des vidéos composites étaient créées, elles étaient de faible qualité et il était évident qu’elles étaient composites. Cependant, grâce aux progrès récents de la technologie informatique, les Deepfakes peuvent être créés avec une précision telle qu’on pourrait les confondre avec des vidéos de la personne réelle.

Par conséquent, il y a un risque que les personnes qui voient la vidéo puissent croire à tort que la personne dans la vidéo a agi comme elle le fait dans la vidéo.

Dommages causés par le Deepfake

La technologie Deepfake en elle-même n’est pas mauvaise. Cependant, avec le Deepfake, il est possible de faire semblant que la personne cible a fait des actions ou des déclarations qu’elle n’a pas réellement faites.

Par conséquent, si une personne malveillante utilise le Deepfake, comme dans le cas où une personne a été arrêtée cette fois, il est possible de créer des vidéos pour adultes dans lesquelles des célébrités et des personnes célèbres n’apparaissent pas réellement.

De plus, si un Deepfake d’une personne en position d’influence sur la politique et l’économie, comme un fonctionnaire du gouvernement, est créé, les médias trompés peuvent diffuser de fausses nouvelles, ce qui pourrait conduire à des troubles politiques et à des problèmes diplomatiques. Par conséquent, cela commence à être considéré comme un problème non seulement au Japon mais aussi dans le monde entier.

La criminalité et l’illégalité du Deepfake

Cette fois, la première personne a été arrêtée en relation avec le Deepfake. Selon ce qui a été annoncé par la police métropolitaine de Tokyo, le suspect a publié une vidéo sur des sites payants et autres, dans laquelle le visage d’une actrice de films pour adultes a été remplacé par celui d’une actrice. Selon les rapports, les charges lors de l’arrestation étaient les deux suivantes :

• Diffamation envers une actrice
• Violation des droits d’auteur de la société de production de films pour adultes

Diffamation

Dans cette affaire, la vidéo a été postée sur Twitter et sur des sites payants, où un nombre indéterminé ou un grand nombre de personnes peuvent la voir.

Par conséquent, il a été jugé que l’actrice, qui est la victime, a été diffamée en donnant l’impression à un nombre indéterminé ou à un grand nombre de spectateurs qu’elle apparaissait dans un film pour adultes.

Violation des droits d’auteur

De plus, les droits d’auteur sur les films pour adultes appartiennent à la société de production de films pour adultes qui les a créés. L’un des droits d’auteur est le “droit à l’intégrité”, qui est le droit de ne pas avoir son œuvre modifiée sans son consentement.

Dans cette affaire, le contenu de la vidéo a été modifié sans l’autorisation de la société de production de films pour adultes, ce qui constitue une violation du droit à l’intégrité de la société de production.

Violation de la vie privée et des droits à l’image

Le Deepfake, qui utilise le visage d’une autre personne sans autorisation dans une vidéo, est généralement considéré comme une violation des droits à l’image.

De plus, la violation du droit à la vie privée, pour le dire simplement, est “il est illégal de publier sans autorisation des choses privées concernant une personne (qu’elles soient vraies ou non)”. Publier un événement sexuel concernant une personne, même s’il est falsifié, est généralement considéré comme une violation du droit à la vie privée.

https://monolith-law.jp/reputation/personal-information-and-privacy-violation[ja]

Cependant, la violation des droits à l’image et du droit à la vie privée est illégale en matière civile, et bien qu’elle puisse servir de base pour identifier l’auteur de la publication, supprimer la vidéo et demander des dommages et intérêts à l’auteur, elle n’est pas un “crime”. Par conséquent, il n’est pas possible de pousser la police à enquêter simplement en invoquant ces dommages.

La loi ne suit pas l’évolution de la technologie

Cependant, tous les Deepfakes ne sont pas des crimes de diffamation ou de violation des droits d’auteur. Fondamentalement, la loi actuelle ne prévoit pas la création de vidéos Deepfake sophistiquées grâce aux progrès de la technologie de l’IA. Par conséquent, il y a des choses qui ne peuvent pas être tenues pour criminellement responsables en vertu de la loi actuelle.

Comme dans le cas de la vidéo qui a conduit à l’arrestation cette fois, si la vidéo est publiée dans un état où un nombre indéterminé ou un grand nombre de personnes peuvent la voir, et si le contenu de la vidéo composite est de nature à diminuer l’image de la célébrité en général, il est possible qu’elle puisse être accusée de diffamation.

Par conséquent, à l’heure actuelle, si une célébrité est victime, il est probable qu’elle prétendra souvent être diffamée.

Identification des créateurs de Deepfake

En cas de préjudice, la première chose à laquelle on pense est d’identifier l’auteur. Cependant, les deepfakes sont souvent échangés dans un monde fermé, et il n’est pas rare qu’il soit difficile de retracer leurs origines.

Par conséquent, nous expliquerons comment les deepfakes sont créés et comment identifier leurs auteurs.

La réalité des créateurs de Deepfake

Dans l’affaire qui a conduit à des arrestations cette fois-ci, on peut dire que le préjudice a été révélé parce qu’il a été publié dans un lieu accessible à tous. Cependant, il est dit qu’il y a une grande demande pour des vidéos pour adultes mettant en scène des célébrités, et l’arrestation de cette fois pourrait n’être que la pointe de l’iceberg.

Il est possible que pour de nombreux deepfakes, les fans de célébrités demandent à des techniciens spécialisés en deepfake de créer des vidéos (souvent pour adultes) selon leurs préférences, dans des communautés spéciales inaccessibles de l’extérieur.

Il y a aussi des cas où la rémunération est payée en monnaie virtuelle pour éviter de laisser des traces, ce qui rend difficile l’identification de l’auteur.

Comment identifier les créateurs de Deepfake

Bien qu’il soit difficile d’identifier l’auteur, si le deepfake est publié sur un site accessible à tous comme Twitter, il est possible de l’identifier. On peut obtenir l’adresse IP utilisée pour tweeter la vidéo de la part de Twitter, et l’utiliser comme indice pour identifier l’auteur. En suivant la procédure appropriée, si l’identification est réussie, on peut obtenir des informations telles que l’adresse, le nom et l’adresse e-mail.

La méthode d’identification de l’auteur dans ce cas est essentiellement la même que dans les cas où l’on a été diffamé sur Internet. Nous expliquons en détail la procédure pour identifier l’auteur d’un post sur Internet dans l’article ci-dessous.

Il convient de noter que cette procédure est civile, et même si ce n’est pas un “crime”, elle est autorisée tant que des violations du droit à l’image ou du droit à la vie privée, comme mentionné ci-dessus, ont lieu.

https://monolith-law.jp/reputation/disclosure-of-the-senders-information[ja]

Cependant, comme mentionné précédemment, si le deepfake est créé dans une communauté fermée, il peut être difficile en réalité d’identifier l’auteur.

Une possibilité est que, comme dans l’affaire actuelle, si cela peut être considéré comme un crime, il est possible d’identifier le créateur de deepfake par une enquête policière en déposant une plainte pénale.

Suppression des vidéos Deepfake

Si le contenu d’une vidéo Deepfake nuit à l’image sociale de la victime, il est impératif de supprimer la vidéo.

De plus, si la vidéo est publiée sur Internet, elle se propage d’autant plus que le temps passe depuis sa publication. Par conséquent, il est souhaitable d’agir le plus rapidement possible dès que vous vous rendez compte du préjudice.

Demande de suppression à l’auteur du Deepfake

Si l’auteur peut être identifié grâce à la procédure mentionnée précédemment, il est également possible en théorie de demander directement à l’auteur de supprimer la vidéo.

Si l’auteur possède un compte sur Twitter ou Instagram, par exemple, vous pouvez choisir de le contacter en utilisant la fonction de messagerie directe (DM).

Cependant, si la victime contacte l’auteur, il y a un risque que celui-ci supprime son compte et les preuves et s’échappe. Par conséquent, il est préférable de demander la suppression à l’auteur après avoir conservé tout ce qui pourrait servir de preuve du préjudice.

Demande de suppression à l’administrateur du site

Si l’auteur ne peut pas être identifié immédiatement, ou s’il est identifié mais qu’il est probable qu’il ne répondra pas à la demande de suppression, vous pouvez demander la suppression à l’administrateur du site où la vidéo a été postée.

Par exemple, sur Twitter ou sur des forums populaires, l’entreprise qui gère le site peut supprimer le contenu qui viole ses conditions d’utilisation.

Lorsque vous demandez la suppression en raison d’une violation des conditions d’utilisation, il est important de vérifier les conditions d’utilisation du site Web où le contenu est posté et de préciser spécifiquement quelle clause est violée.

De plus, si l’administrateur du site Web ne répond pas à la demande de suppression, vous pouvez demander la suppression de l’article problématique par une procédure judiciaire appelée mesure provisoire. Pour plus d’informations sur les mesures provisoires pour supprimer les publications sur Internet, veuillez consulter l’article ci-dessous.

https://monolith-law.jp/reputation/provisional-disposition[ja]

Résumé

Si une célébrité ou un talent est victime de deepfake, il est nécessaire pour l’agence de talents de collecter rapidement des informations.

De plus, si vous découvrez une vidéo qui semble être un deepfake, vous devez sauvegarder l’état de la publication du site où la vidéo et les données associées sont publiées, en utilisant des photos, des enregistrements, des captures d’écran, etc., et envisager immédiatement des mesures à prendre.

En ce qui concerne les mesures juridiques ultérieures, il sera probablement nécessaire de consulter un avocat, car il sera nécessaire de prendre des mesures auprès des tribunaux et de la police. À ce moment-là, il est recommandé de consulter un avocat qui est familier avec les mécanismes de l’Internet et de la technologie de l’information.