Comment prévenir les mensonges de l'IA et les violations de droits d'auteur ? Quelles sont les réglementations internes pour utiliser en toute sécurité les productions générées par l'IA ?
Transformer l’IA en un moteur de croissance pour votre entreprise ou en un facteur de dégradation de votre marque dépend de l’existence de « règlements internes sur l’IA » efficaces. En particulier, les violations de droits d’auteur et la diffusion de fausses informations dues à des hallucinations peuvent, une fois survenues, non seulement entraîner des sanctions légales, mais aussi faire perdre instantanément la confiance accumulée de vos clients.
Dans cet article, nous expliquons les directives pour établir un cadre de conformité et des règlements qui doivent être mis en place dès maintenant pour garantir une utilisation sécurisée de l’IA tout en maintenant la compétitivité de votre entreprise au Japon.
Les Pièges Cachés dans la “Qualité” et les “Droits” des Produits Générés par l’IA au Japon
Les IA génératives se sont imposées comme des outils attrayants qui réduisent considérablement l’effort nécessaire pour passer de zéro à un, et qui améliorent de manière spectaculaire l’efficacité des tâches créatives et administratives. Cependant, derrière cette commodité se cachent des risques juridiques fondamentalement différents de ceux des outils informatiques traditionnels, sous le système juridique japonais.
Les résultats produits par les IA génératives sont dérivés de manière probabiliste à partir d’une vaste quantité de données d’apprentissage existantes. En raison de la nature opaque de ce processus de génération, il existe un risque constant que les utilisateurs enfreignent les droits d’autrui à leur insu ou propagent des mensonges crédibles comme des vérités.
Dans le contexte des affaires au Japon, l’excuse “c’est l’IA qui l’a fait” n’est pas recevable. Les entreprises qui intègrent l’IA dans leurs opérations, ainsi que les individus qui l’utilisent, sont responsables légalement des résultats produits. Pour éviter des situations telles que la diffamation due à la diffusion d’informations inappropriées ou les réclamations pour violation de droits d’auteur, il est nécessaire d’établir des “garde-fous” clairs au niveau organisationnel plutôt que de laisser cela à la discrétion individuelle. Il est impératif de mettre en place rapidement des règlements internes solides basés sur les lois et directives japonaises les plus récentes pour prévenir les violations de droits d’auteur et la diffusion de fausses informations.
Risque 1 : Éviter de devenir un contrevenant aux droits d’auteur au Japon
Lors de l’utilisation de l’IA générative dans le cadre des affaires au Japon, le risque le plus préoccupant est de violer les droits d’auteur d’autrui et d’engager sa responsabilité légale. En raison de son fonctionnement, l’IA générative a tendance à produire des contenus qui reflètent les caractéristiques des œuvres existantes incluses dans ses données d’apprentissage. Comprendre correctement ce processus et identifier clairement dans quelles situations cela constitue une “violation” est la première étape pour se protéger.
Mécanismes de l’IA Générative et du Droit d’Auteur au Japon
L’IA générative extrait des motifs à partir d’une vaste quantité de données apprises pour créer de nouveaux contenus en réponse aux instructions (prompts) fournies. Dans ce processus, l’IA ne comprend pas le “sens de l’information” mais se contente de prédire le mot ou le pixel suivant sur la base de probabilités statistiques. Par conséquent, il est possible que des œuvres générées ressemblent fortement à celles de créateurs spécifiques ou à des œuvres protégées par le droit d’auteur, et ce, contrairement à l’intention de l’utilisateur.
Selon le document publié par l’Agence pour les Affaires Culturelles du Japon intitulé “Considérations sur l’IA et le Droit d’Auteur“, l’évaluation des infractions au droit d’auteur par des œuvres générées par l’IA est effectuée selon le même cadre que pour les œuvres traditionnelles. Plus précisément, une infraction est reconnue si une “similitude” et une “dépendance” par rapport à une œuvre existante sont établies.
Référence : Agence pour les Affaires Culturelles du Japon｜À propos de l’IA et du Droit d’Auteur
Les Deux Conditions Principales de la Violation : « Similarité » et « Dépendance »
La similarité désigne l’état dans lequel le contenu généré partage des caractéristiques essentielles ou est identique à l’expression créative d’une œuvre existante. En revanche, la dépendance signifie que l’œuvre a été créée « sur la base » d’une œuvre existante. Dans le cadre de la violation des droits d’auteur au Japon, la question centrale était de savoir si le créateur avait vu l’œuvre en question. Cependant, dans le cas de l’IA générative, il est crucial de déterminer si l’œuvre faisait partie des données d’apprentissage de l’IA.
Un problème particulier se pose lorsque l’utilisateur n’a pas connaissance de l’œuvre existante, mais que l’IA l’a apprise, ce qui pourrait établir la dépendance. Ce phénomène est appelé le « problème de la boîte noire ». Selon l’Agence des Affaires Culturelles du Japon, même si le contenu des données d’apprentissage est inconnu, la dépendance est plus facilement présumée lorsque l’IA a largement appris des informations sur Internet et que le contenu généré présente une similarité marquée avec une œuvre existante.
Portée et Limites des Dispositions de Restriction des Droits (Article 30-4)
Selon l’article 30-4 de la Loi japonaise sur le droit d’auteur, lors de la phase d’apprentissage de l’IA, il est possible d’utiliser des œuvres exprimant des idées ou des émotions sans l’autorisation du titulaire des droits d’auteur, à condition que l’objectif ne soit pas de “jouir” de ces œuvres. Cette disposition reconnaît largement l’utilisation à des fins d’analyse de l’information, qui ne vise pas la jouissance, et constitue une base juridique importante soutenant le développement de l’IA au Japon.
Cependant, cette disposition concerne uniquement la phase “d’apprentissage” et ne s’applique pas à l’étape de “l’utilisation” des éléments générés. De plus, lorsqu’un apprentissage supplémentaire (comme LoRA) est effectué dans le but de reproduire le style d’un créateur spécifique, il est possible que l’objectif de “jouissance” soit considéré comme coexistant, ce qui pourrait exclure l’application de l’article 30-4.
Mesures dans les Règlements Internes d’AI : Sélection des Prompts et des Services
Dans les règlements internes d’AI, il est efficace d’établir des restrictions à l’étape de saisie pour minimiser le risque de dépendance. Concrètement, il est recommandé d’interdire en principe l’inclusion de noms d’artistes spécifiques ou de titres d’œuvres dans les prompts. De plus, pour les fonctionnalités telles que Image-to-Image (i2i) qui génèrent des images à partir d’images existantes, il est nécessaire de limiter leur utilisation aux images dont l’entreprise détient les droits ou à des matériaux dont les droits sont clairement établis.
En outre, la sélection des services d’AI utilisés est également cruciale. Parmi les plans payants, certains services offrent une “exonération de responsabilité pour droits d’auteur” qui couvre le risque de violation des droits d’auteur. Il est recommandé d’inclure dans les règlements un processus pour examiner les conditions d’application de ces services et choisir ceux qui correspondent aux normes de sécurité internes.
Le tableau ci-dessous résume les points de contrôle à organiser dans les règlements internes pour éviter les violations des droits d’auteur.
| Point de Vérification | Orientation des Règlements Concrets | Perspective Justificative |
| Saisie de Prompt | Interdiction de saisir des noms d’auteurs ou d’œuvres spécifiques, ainsi que des noms propres | Pour éviter qu’ils ne deviennent des preuves directes de dépendance |
| Apprentissage Supplémentaire (LoRA, etc.) | Limitation de l’apprentissage visant à reproduire le style d’un titulaire de droits spécifique | Pour éviter le risque de violation des droits par coexistence d’objectifs de jouissance |
| Utilisation d’Images Externes | Limitation aux matériaux dont l’entreprise détient les droits ou pour lesquels une licence a été obtenue | Pour bloquer l’apparition de dépendance dans la fonction i2i |
| Sélection de Services | Adoption de plans permettant une utilisation commerciale et présentant une grande transparence des droits | Pour vérifier le respect des conditions d’utilisation et le système de compensation du fournisseur d’AI |
Risque 2 : Les œuvres générées par l’IA peuvent-elles bénéficier de droits d’auteur au Japon ? (Pour éviter d’être victime)
Lorsqu’une entreprise utilise l’IA pour créer des œuvres, il est crucial de savoir si elle peut revendiquer ses droits lorsque ces œuvres sont utilisées sans autorisation par d’autres entreprises. Selon l’interprétation actuelle du droit japonais, les œuvres générées de manière autonome par l’IA ne bénéficient pas de droits d’auteur. Pour qu’une entreprise puisse sécuriser les droits sur ces œuvres et les protéger en tant que propriété intellectuelle, certaines conditions doivent être remplies.
Définition d’une « œuvre » et seuil de créativité sous le droit japonais
Selon l’article 2, paragraphe 1, point 1 de la Loi japonaise sur le droit d’auteur, une œuvre est définie comme une expression créative de pensées ou de sentiments. Étant donné que l’IA est une machine dépourvue de « pensées » et de « sentiments », le contenu généré automatiquement par une IA n’est pas reconnu comme une œuvre. Par conséquent, un résultat obtenu simplement en entrant une courte invite dans une IA n’est généralement pas protégé légalement en raison de l’absence de « contribution créative » et se trouve dans un état où il peut être utilisé librement par quiconque, proche du domaine public.
Pour qu’une œuvre soit reconnue, il est nécessaire qu’un humain utilise l’IA comme un « outil » et que l’« intention créative » et la « contribution créative » de l’humain soient reconnues. La question de savoir si l’humain contrôle substantiellement le contenu de l’expression, au-delà de simples instructions, est cruciale pour la naissance des droits.
Utilisation comme « outil » pour garantir les droits
Pour déterminer quelles actions peuvent être reconnues comme une contribution créative sous le droit japonais, plusieurs éléments sont pris en compte de manière globale. Tout d’abord, le contenu du prompt doit être concret et détaillé. Plutôt que de simplement demander une « image de chat », il est nécessaire de spécifier précisément la composition, l’utilisation des couleurs, le style de pinceau, etc., et de raffiner l’expression idéale à travers un processus d’essais et d’erreurs. Ensuite, il s’agit d’apporter des modifications ou des corrections humaines à la sortie générée par l’IA, ou de combiner plusieurs créations générées pour ajouter une nouvelle structure. Les parties ainsi modifiées par l’humain sont généralement reconnues comme des œuvres protégées par le droit d’auteur.
Pour les entreprises au Japon, il est souhaitable d’établir un flux opérationnel qui conserve le processus de génération (historique des prompts et journaux des modifications) afin de pouvoir se défendre contre toute imitation par d’autres sociétés. Cela permet de protéger les créations générées par l’IA dans le cadre de leurs activités professionnelles.
Attribution des droits sur les œuvres générées par l’IA dans le cadre professionnel au Japon
Lorsqu’un employé utilise l’IA dans le cadre de son travail et contribue de manière créative à la réalisation d’une œuvre, à qui appartiennent les droits ? Selon l’article 15 de la Loi japonaise sur le droit d’auteur (職務著作), l’auteur d’une œuvre créée dans le cadre des fonctions d’une personne engagée par une entreprise, et publiée sous le nom de cette entreprise, est cette entreprise, sauf disposition contraire.
Même lorsque l’IA est utilisée, si une contribution créative humaine est reconnue, ce cadre de “職務著作” peut s’appliquer. Cependant, pour les parties générées de manière autonome par l’IA (sans contribution créative humaine), aucun droit d’auteur ne se crée, et l’article 15 ne s’applique pas. Il est important que les règlements internes précisent que les droits sur les œuvres générées par l’IA appartiennent à l’entreprise et incluent des clauses encourageant une utilisation accompagnée de contributions créatives.
Le tableau ci-dessous présente les éléments et les points de jugement pour reconnaître la qualité d’œuvre des produits générés par l’IA.
| Élément de jugement | Cas où la qualité d’œuvre est facilement reconnue | Cas où la qualité d’œuvre est facilement niée |
| Nature des instructions | Instructions détaillées et spécifiques, spécification des détails de l’expression | Instructions courtes et abstraites, simple présentation d’idées |
| Processus d’essais et erreurs | Nombreuses générations et sélections, ajustements répétés des instructions | Adoption directe après une seule génération |
| Modification humaine | Ajouts, corrections, modifications de couleurs directement sur le produit généré | Utilisation directe de la sortie de l’IA sans modification |
| Composition et sélection | Combinaison et disposition originales de plusieurs produits générés | Présentation d’un seul produit généré |
Risque 3 : Défense légale contre les hallucinations (mensonges de l’IA) sous le droit japonais
Un des problèmes techniques majeurs liés à l’IA générative est l’hallucination. Ce phénomène se produit lorsque l’IA génère des mensonges plausibles, ce qui, dans le cadre de l’utilisation commerciale, peut entraîner des situations graves telles que la diffamation due à la diffusion d’informations erronées ou des décisions prises sur la base de données incorrectes.
La Nature des Hallucinations et Leurs Impacts Réels en Affaires au Japon
Les hallucinations surviennent parce que l’IA ne vérifie pas la véracité des informations, mais poursuit plutôt la justesse probabiliste de l’agencement des mots. Cela peut conduire à la fabrication de jurisprudences inexistantes ou à la présentation d’événements fictifs comme des faits. Aux États-Unis, un cas a été rapporté où des documents rédigés par des avocats à l’aide d’une IA générative contenaient des jurisprudences fictives, ce qui a posé un problème majeur devant les tribunaux.
Dans le cadre des activités commerciales, diffuser des informations contenant des hallucinations peut entraîner les risques juridiques suivants au Japon. Premièrement, si le contenu porte atteinte à l’honneur d’une personne ou d’une entité spécifique, cela peut entraîner une responsabilité pour diffamation. Ensuite, prendre des décisions d’investissement basées sur des données de marché ou des prévisions financières erronées peut constituer une violation du devoir de diligence d’un bon gestionnaire (善管注意義務). De plus, présenter des spécifications de produits ou des interprétations juridiques incorrectes aux clients peut entraîner une responsabilité pour manquement contractuel ou obstruction des affaires.
Mesures Techniques : Utilisation de RAG (Génération Augmentée par Recherche)
En tant que mesure de défense technique, l’introduction de RAG (Génération Augmentée par Recherche) s’avère efficace. Cette technologie permet à l’IA de générer des réponses en se référant à des documents précis et des bases de données fiables préparés en interne, plutôt qu’à une multitude d’informations externes non spécifiées. Cela clarifie les fondements des réponses et réduit considérablement le risque d’hallucinations.
Cependant, l’introduction de RAG ne signifie pas que la vérification humaine devient inutile. Il existe toujours un risque que l’IA interprète incorrectement les documents de référence ou produise des résumés incomplets.
Mesures opérationnelles : Obligation de vérification des faits
Dans le cadre des règlements internes, il est crucial de ne pas accepter aveuglément les résultats générés par l’IA et de rendre obligatoire le processus de “vérification des faits” par des humains. Selon les “Lignes directrices pour les opérateurs d’IA” publiées par le Ministère de l’Économie, du Commerce et de l’Industrie et le Ministère des Affaires intérieures et des Communications du Japon, les utilisateurs d’IA doivent comprendre l’exactitude des résultats fournis et prendre des décisions d’utilisation en toute responsabilité.
Référence : Lignes directrices pour les opérateurs d’IA du Ministère de l’Économie, du Commerce et de l’Industrie
Concrètement, il est nécessaire de mettre en place un processus qui compare systématiquement les faits et chiffres proposés par l’IA avec des informations primaires telles que les sites officiels des administrations, les statistiques publiques et les communiqués officiels. En particulier, pour les documents destinés à être diffusés à l’extérieur, les dossiers relatifs à des transactions de grande valeur, et les documents ayant une force légale, il est impératif d’intégrer dans les règlements un système strict de double vérification, en reconnaissant qu’ils sont générés par l’IA.
Exemple de Réglementation Interne sur la Gestion des Droits et de la Véracité par l’IA
En tenant compte de l’analyse des risques jusqu’à présent, nous présentons des exemples de clauses spécifiques à inclure dans les règlements internes. Ces règlements ne doivent pas seulement définir les “interdictions”, mais aussi le “processus d’utilisation”, afin de fournir aux employés des directives pour utiliser l’IA en toute sécurité.
Interdictions lors de l’Entrée de Prompts (Droits d’Auteur et Sécurité)
Exemples de règlements :
- Les utilisateurs ne doivent pas entrer dans les prompts de l’IA générative les noms de personnes spécifiques, de célébrités ou d’artistes, ni donner des instructions pour imiter leur style ou leurs caractéristiques.
- L’entrée d’œuvres existantes telles que des images, des documents ou des codes sources pour les adapter ou les modifier est limitée aux cas où l’entreprise est le détenteur légitime des droits sur ces œuvres ou a obtenu l’autorisation d’utiliser l’IA.
- Il est strictement interdit d’entrer des informations confidentielles de l’entreprise, des informations personnelles ou des œuvres non publiées d’autrui dans des services susceptibles d’être utilisés comme données d’apprentissage.
Processus d’Utilisation des Produits Générés par l’IA (Vérification de l’Exactitude et de la Similarité)
Exemples de règlements :
- Lors de l’utilisation de produits générés par l’IA pour des documents externes, des communications, des produits ou des services, le responsable doit vérifier, à l’aide de moyens objectifs tels que la recherche d’images Google ou des outils de vérification de plagiat disponibles dans le commerce, qu’il n’existe pas de similarité avec des œuvres existantes.
- Les informations générées par l’IA, y compris les faits, les chiffres, le contexte historique et les interprétations juridiques, doivent être vérifiées par rapport à des sources fiables (données publiques, documents officiels, etc.) et confirmées par un humain avant utilisation.
- Lorsqu’on utilise des produits générés par l’IA pour des décisions importantes, le processus de génération (prompts utilisés, sources vérifiées) doit être enregistré et approuvé par un supérieur ou un département spécialisé.
Processus de Révérification des Conditions lors de l’Utilisation Commerciale
Exemples de règlements :
- Lors de l’utilisation commerciale ou de la distribution externe de services d’IA générative, le responsable doit vérifier les conditions d’utilisation les plus récentes de ces services et s’assurer qu’il n’y a pas de problème concernant la possibilité d’utilisation commerciale et l’attribution des droits sur les produits générés.
- En cas de révision des conditions d’utilisation par le fournisseur de services, le contenu doit être examiné rapidement et la cohérence avec les règlements internes doit être réévaluée.
Conclusion : Consultez un avocat pour établir des règlements internes sur l’utilisation sécurisée de l’IA au sein de votre entreprise au Japon
Lorsqu’elle est correctement contrôlée, l’IA générative peut devenir un “assistant exceptionnel” qui stimule la créativité humaine et élève la productivité des opérations à un niveau sans précédent. Cependant, cet assistant peut parfois enfreindre les droits d’auteur d’autrui et proférer des mensonges plausibles qui pourraient mettre l’organisation en difficulté. Les risques détaillés dans cet article ne visent pas à restreindre l’utilisation de l’IA, mais à permettre une compréhension correcte de leur nature et à établir des “garde-fous” appropriés pour maximiser l’utilisation de l’IA.
Pour les entreprises au Japon, la mise en place d’une gouvernance de l’IA n’est plus une option, mais une condition essentielle pour une gestion durable. Il est crucial de développer des règlements internes qui reflètent la loi japonaise sur le droit d’auteur, les lignes directrices pour les opérateurs d’IA, ainsi que les dernières opinions de l’Agence pour les affaires culturelles. Établir un système “Human-in-the-loop”, où l’humain conserve la responsabilité finale, déterminera le succès ou l’échec des entreprises à l’ère de l’IA.
Guide des Mesures Proposées par Notre Cabinet
Le cabinet d’avocats Monolith est un cabinet doté d’une vaste expérience à la fois dans le domaine de l’IT, en particulier l’Internet, et dans le domaine juridique au Japon. Les affaires liées à l’IA comportent de nombreux risques juridiques, et il est essentiel de bénéficier du soutien d’un avocat bien informé sur les questions juridiques relatives à l’IA. Notre cabinet offre un soutien juridique avancé pour les entreprises utilisant l’IA, telles que ChatGPT, grâce à une équipe composée d’avocats et d’ingénieurs spécialisés dans l’IA. Nous proposons des services tels que la rédaction de contrats, l’évaluation de la légalité des modèles d’affaires, la protection des droits de propriété intellectuelle, la gestion de la confidentialité, et l’élaboration de règlements internes sur l’IA. Vous trouverez plus de détails dans l’article ci-dessous.
Category: IT
