Qu'est-ce que la gouvernance de l'IA que les entreprises devraient mettre en œuvre ? Explication des points clés basés sur les "Directives pour les opérateurs d'IA"
Le 19 avril 2024 (Reiwa 6), le Ministère des Affaires Intérieures et des Communications et le Ministère de l’Économie, du Commerce et de l’Industrie du Japon ont publié les “Directives pour les Entreprises d’IA”. L’objectif de ces directives est de promouvoir l’utilisation sécurisée de l’IA et d’accélérer son intégration dans la société. Ces directives s’adressent aux entreprises, aux institutions publiques, aux établissements d’enseignement, ainsi qu’aux organisations telles que les NPO et les ONG, qui sont impliquées dans le développement, la fourniture et l’utilisation de l’IA.
Selon les “Directives pour les Entreprises d’IA”, il est crucial pour les acteurs impliqués dans le développement, la fourniture et l’utilisation de l’IA de mettre en place une gouvernance de l’IA. Mais quelles mesures les entreprises doivent-elles prendre pour établir une telle gouvernance de l’IA ?
Cet article explique les points clés de la gouvernance de l’IA que les entreprises devraient mettre en œuvre, en se basant sur les “Directives pour les Entreprises d’IA”.
Qu’est-ce que les directives pour les opérateurs d’IA au Japon ?
Les directives pour les opérateurs d’IA, établies en 2024 par le Ministère des Affaires Intérieures et des Communications et le Ministère de l’Économie, du Commerce et de l’Industrie, visent à promouvoir une utilisation sûre et sécurisée de l’IA. Elles ont été conçues pour fournir des lignes directrices unifiées pour la gouvernance de l’IA dans notre pays.
Ces directives sont le résultat de l’intégration et de la révision des précédentes “Directives pour le développement de l’IA”, “Directives pour l’utilisation de l’IA” et “Directives de gouvernance pour la mise en pratique des principes de l’IA”. Elles ont été établies pour permettre aux opérateurs utilisant l’IA de vérifier les lignes directrices conduisant à des comportements souhaitables pour une utilisation sûre et sécurisée de l’IA.
Pour en savoir plus sur les directives pour les opérateurs d’IA, veuillez consulter “Explication du contenu des directives pour les opérateurs d’IA du Ministère de l’Économie, du Commerce et de l’Industrie par un avocat”.
Article connexe : Explication du contenu des directives pour les opérateurs d’IA du Ministère de l’Économie, du Commerce et de l’Industrie par un avocat[ja]
Qu’est-ce que la gouvernance de l’IA sous le droit japonais ?
La gouvernance de l’IA, selon les directives pour les opérateurs d’IA au Japon, est définie comme « la conception et l’opération de systèmes techniques, organisationnels et sociaux par les parties prenantes, visant à gérer les risques générés par l’utilisation de l’IA à un niveau acceptable pour les parties prenantes, tout en maximisant les impacts positifs (bénéfices) qui en découlent ».
De plus, ces directives soulignent l’importance de la construction de la gouvernance de l’IA pour une utilisation sûre et sécurisée de l’IA à travers la chaîne de valeur. Cela implique une collaboration entre toutes les parties concernées pour gérer les risques liés à l’IA à un niveau acceptable pour les parties prenantes et maximiser les bénéfices qui en résultent.
En d’autres termes, l’établissement d’une gouvernance de l’IA est crucial pour chaque acteur impliqué dans le développement, la fourniture et l’utilisation de l’IA.
Pratique de l’« Agile Governance » dans la construction de la gouvernance de l’IA au Japon
Il est considéré comme essentiel, dans la construction de la gouvernance de l’IA, de mettre en pratique l’« Agile Governance ».
L’Agile Governance est une approche qui, au lieu de fixer des règles rigides à l’avance, implique de faire tourner en continu un cycle comprenant « l’analyse de l’environnement et des risques », « la définition des objectifs », « la conception du système », « l’exploitation » et « l’évaluation », afin de répondre de manière flexible aux changements de l’environnement externe et des risques.
Dans les affaires liées à l’IA, les objectifs évoluent constamment en raison de la complexité et de la rapidité des changements.
Par conséquent, dans la construction de la gouvernance de l’IA, il est nécessaire d’adopter une approche flexible plutôt que de fixer des règles ou des procédures à l’avance, en fonction de la taille et du type d’activité de chaque entreprise. C’est pourquoi les lignes directrices pour les opérateurs d’IA recommandent la construction de la gouvernance par la méthode de l’Agile Governance.
Le terme « agile » signifie « rapide » et « alerte » en anglais.
La mise en œuvre de l’Agile Governance est décrite dans le corps principal des lignes directrices pour les opérateurs d’IA comme suit :
- Effectuer une « analyse de l’environnement et des risques », qui consiste à analyser les changements dans l’environnement social d’acceptation des systèmes et services d’IA, ainsi que les avantages et les risques associés à leur utilisation.
- Décider si les systèmes et services d’IA seront développés, fournis et utilisés, et dans l’affirmative, « définir les objectifs ».
- Concevoir un « système de gestion de l’IA » pour atteindre les objectifs de gouvernance de l’IA fixés et en assurer l’« exploitation ». Dans ce processus, les entreprises doivent assurer la transparence et l’accountability (équité, etc.) de leurs objectifs de gouvernance de l’IA et de leur état d’exploitation vis-à-vis des parties prenantes externes.
- Surveiller en continu si le système de gestion de l’IA fonctionne efficacement et effectuer une « évaluation ».
- Après le début de l’exploitation des systèmes et services d’IA, effectuer à nouveau une « analyse de l’environnement et des risques » en tenant compte des changements de l’environnement externe et, si nécessaire, réviser les objectifs.
Pour mettre en pratique ces étapes de 1 à 5, des objectifs d’action spécifiques sont décrits dans l’annexe des lignes directrices pour les opérateurs d’IA,[ja] il est donc important de vérifier chaque point spécifiquement.
Objectifs d’action pour la mise en pratique de la gouvernance agile
Examinons les objectifs d’action pour la mise en pratique de la gouvernance agile, en nous basant sur l’annexe des directives pour les opérateurs d’IA.
Analyse des risques et de l’environnement
Pour mener à bien une “analyse des risques et de l’environnement” dans le cadre de la gouvernance agile, les objectifs d’action suivants sont énumérés dans l’annexe des directives pour les opérateurs d’IA :
- Compréhension des avantages/risques
- Compréhension de l’acceptation sociale de l’IA
- Compréhension du niveau de maîtrise de l’IA au sein de votre entreprise
Compréhension des avantages/risques
Un des objectifs d’action pour la mise en œuvre de l’« analyse environnementale et des risques » est la « compréhension des avantages/risques ».
Il est expliqué comme suit dans l’annexe des directives pour les opérateurs d’IA :
Objectif d’action 1-1【Compréhension des avantages/risques】
Sous la direction de la couche managériale, chaque entité doit clarifier l’objectif du développement, de la fourniture et de l’utilisation de l’IA, et comprendre concrètement, en rapport avec les activités de chaque entité, non seulement les avantages obtenus de l’IA, mais aussi les risques non intentionnels qui existent, rapporter ces éléments à la couche managériale, les partager au sein de la direction et mettre à jour la compréhension en temps opportun.
Source : Annexe des directives pour les opérateurs d’IA
Les points particulièrement importants sont les suivants :
- Définir clairement l’objectif du développement, de la fourniture et de l’utilisation de l’IA en termes de création de valeur dans l’entreprise et de résolution de problèmes sociaux
- Comprendre concrètement les avantages et les risques en lien avec les activités de sa propre entreprise
- Être attentif aux « risques » à éviter et aux questions qui s’étendent sur plusieurs entités, et veiller à sécuriser les avantages et à réduire les risques à travers toute la chaîne de valeur/chaîne de risque
- Construire un système pour rapporter/partager rapidement avec la couche managériale
Comprendre l’acceptation sociale de l’IA
Un deuxième objectif d’action pour la mise en œuvre de l’analyse des risques et de l’environnement est la “compréhension de l’acceptation sociale de l’IA”.
Il est expliqué comme suit dans l’annexe des directives pour les opérateurs d’IA :
Objectif d’action 1-2 [Comprendre l’acceptation sociale de l’IA]
Il est attendu que chaque entité, sous la direction de la couche managériale, comprenne l’état actuel de l’acceptation sociale en se basant sur les opinions des parties prenantes avant de se lancer pleinement dans le développement, la fourniture et l’utilisation de l’IA. De plus, même après le lancement complet des systèmes et services d’IA, il est attendu que les opinions des parties prenantes soient réexaminées en temps opportun, en tenant compte des changements dans l’environnement externe.
Source : Annexe des directives pour les opérateurs d’IA
Les points clés pour la mise en œuvre sont les suivants :
- Identifier les parties prenantes
- Encourager les parties prenantes à comprendre l’acceptation sociale et à développer, fournir et utiliser l’IA
- Après le lancement des systèmes et services d’IA, prendre en compte l’environnement externe qui change rapidement et, si nécessaire, réexaminer en temps opportun les opinions des parties prenantes
Comprendre le niveau de maîtrise de l’IA au sein de votre entreprise
Le troisième objectif d’action pour la mise en œuvre de l’« analyse des risques et de l’environnement » est la « compréhension du niveau de maîtrise de l’IA au sein de votre entreprise ».
Les annexes des directives pour les opérateurs d’IA expliquent comme suit :
Objectif d’action 1-3【Comprendre le niveau de maîtrise de l’IA de votre entreprise】
Sous la direction de la couche managériale, et après avoir pris en compte la mise en œuvre des objectifs d’action 1-1 et 1-2, chaque entité, sauf si elle juge que les risques sont mineurs au regard de l’usage prévu de l’IA, de son domaine d’activité et de sa taille, doit évaluer son niveau de maîtrise de l’IA en se basant sur l’expérience acquise dans le développement, la fourniture et l’utilisation de systèmes et services d’IA, sur le nombre et l’expérience des employés, y compris les ingénieurs, impliqués dans ces activités, ainsi que sur le degré de littératie en matière de technologie et d’éthique de l’IA de ces employés. Il est attendu que cette évaluation soit réévaluée en temps opportun et, si possible, que les résultats soient publiés à l’intention des parties prenantes dans un cadre raisonnable. Si une entité décide de ne pas évaluer son niveau de maîtrise de l’IA parce qu’elle considère les risques comme mineurs, il est attendu qu’elle publie ce fait et ses raisons auprès des parties prenantes.
Source : Annexes des directives pour les opérateurs d’IA
Voici les points clés pour la mise en œuvre :
- Évaluer la nécessité d’évaluer le niveau de maîtrise de l’IA en fonction du domaine d’activité et de la taille de chaque entité
- Si une évaluation du niveau de maîtrise de l’IA est jugée nécessaire, visualiser la capacité à répondre aux risques liés à l’IA et évaluer le niveau de maîtrise
- Même si une évaluation du niveau de maîtrise de l’IA n’est pas jugée nécessaire, publier, dans la mesure du possible et dans un cadre raisonnable, ce fait et ses raisons auprès des parties prenantes
Définition des Objectifs
Pour mettre en œuvre la définition des objectifs dans le cadre de la gouvernance agile, les objectifs d’action suivants sont énoncés dans l’annexe des directives pour les opérateurs d’IA :
Objectif d’action 2-1【Définition des Objectifs de Gouvernance de l’IA】
Sous la direction de la couche managériale, chaque entité doit considérer les avantages/risques potentiels que les systèmes et services d’IA peuvent apporter, l’acceptation sociale du développement, de l’offre et de l’utilisation des systèmes et services d’IA, ainsi que le degré de familiarité de l’entreprise avec l’IA. Tout en prenant en compte l’importance du processus menant à la définition des objectifs de gouvernance de l’IA, l’entité doit examiner si elle doit établir ses propres objectifs de gouvernance de l’IA (par exemple, une politique d’IA) et procéder à leur établissement. De plus, il est attendu que les objectifs établis soient rendus publics auprès des parties prenantes. Si une entité choisit de ne pas établir d’objectifs de gouvernance de l’IA en raison de risques jugés mineurs, il est attendu qu’elle publie ce fait ainsi que ses raisons auprès des parties prenantes. Si les “principes communs” de ce guide sont jugés suffisamment fonctionnels, ils peuvent remplacer les objectifs de gouvernance de l’IA propres à l’entreprise.
Même si une entité choisit de ne pas définir d’objectifs, il est attendu qu’elle comprenne l’importance de ce guide et mette en œuvre les initiatives liées aux objectifs d’action 3 à 5 selon les besoins.
Source : Annexe des directives pour les opérateurs d’IA
Voici les points clés pour la mise en œuvre :
- Examiner si l’entité doit établir ses propres “Objectifs de Gouvernance de l’IA”
- Si l’on juge nécessaire de définir des objectifs, les établir
- Même si l’on juge qu’il n’est pas nécessaire de définir des objectifs, publier cette décision et ses raisons auprès des parties prenantes dans la mesure du possible et de manière raisonnable.
Conception de Systèmes (Construction de Systèmes de Gestion d’IA) sous le Droit Japonais
Dans le cadre de la mise en œuvre de la conception de systèmes agile, notamment la construction de systèmes de gestion d’IA, les objectifs d’action suivants sont énoncés dans les annexes des directives pour les opérateurs d’IA :
- La nécessité d’évaluer les objectifs et les écarts, ainsi que de répondre aux écarts
- L’amélioration de la littératie des talents en gestion d’IA
- Le renforcement de la gestion d’IA par la coopération entre les différentes entités et départements
- La réduction de la charge liée aux incidents pour les utilisateurs grâce à la prévention et à une réponse rapide
L’Essentialisation de l’Évaluation des Objectifs et des Écarts et de la Réponse aux Écarts
Un des objectifs d’action pour la mise en œuvre du “Design de Système (construction d’un système de gestion de l’IA)” est “l’Essentialisation de l’Évaluation des Objectifs et des Écarts et de la Réponse aux Écarts”.
Les lignes directrices pour les opérateurs d’IA en Japon stipulent ce qui suit :
Objectif d’action 3-1【Essentialisation de l’Évaluation des Objectifs et des Écarts, ainsi que de la Réponse aux Écarts】
Sous la direction de la couche managériale, il est attendu que chaque entité identifie les écarts par rapport aux Objectifs de Gouvernance de l’IA de l’entité, évalue les impacts résultant de ces écarts, et, en cas de risques identifiés, considère leur ampleur, leur portée, leur fréquence d’occurrence, etc., pour juger de la rationalité de leur acceptation. Si l’acceptation est jugée irrationnelle, il est attendu que l’entité repense la manière de développer, fournir et utiliser l’IA. Ce processus devrait être intégré à toutes les étapes appropriées du système de gestion de l’IA, ainsi qu’aux étapes de conception, de développement, avant le début de l’utilisation et après le début de l’utilisation des systèmes et services d’IA. Il est crucial que la couche managériale établisse les politiques de base pour ce processus de réflexion, tandis que la couche opérationnelle concrétise ce processus. De plus, il est attendu que des personnes qui ne sont pas directement impliquées dans le développement, la fourniture et l’utilisation de l’IA concernée participent à l’évaluation des écarts par rapport aux Objectifs de Gouvernance de l’IA. Cependant, il n’est pas approprié de refuser arbitrairement le développement, la fourniture et l’utilisation de l’IA uniquement sur la base de l’existence d’écarts. Par conséquent, l’évaluation des écarts est une étape pour évaluer les risques et ne doit servir que de point de départ pour l’amélioration.
Source : Annexe des lignes directrices pour les opérateurs d’IA
Voici les points clés pour la mise en pratique :
- Identifier et évaluer l’ampleur des écarts entre les systèmes et services d’IA actuels et les “Objectifs de Gouvernance de l’IA”.
- Juger de la rationalité de l’acceptation des risques identifiés lors de l’utilisation des systèmes et services d’IA.
- Si l’acceptation est jugée irrationnelle, repenser la manière de développer, fournir et utiliser l’IA et intégrer ce processus de réflexion aux étapes appropriées du développement, de la fourniture et de l’utilisation, ainsi qu’aux processus de prise de décision au sein de l’organisation de chaque entité.
- La couche managériale doit prendre le leadership dans ces actions, assumer la responsabilité de ces décisions et la couche opérationnelle doit les concrétiser, en les mettant en œuvre de manière continue.
- Pour cultiver une compréhension commune au sein de chaque entité, partager les éléments d’évaluation des écarts décidés au sein de l’entité.
Amélioration de la littératie en gestion de l’IA pour les professionnels
Un deuxième objectif d’action pour la mise en œuvre du “Design de Système (construction d’un système de gestion de l’IA)” est “l’amélioration de la littératie en gestion de l’IA pour les professionnels”.
Les directives pour les opérateurs d’IA stipulent ce qui suit :
Objectif d’action 3-2 [Amélioration de la littératie du personnel dans le système de gestion de l’IA]
Sous la direction de la couche managériale, il est attendu de chaque entité qu’elle envisage l’utilisation de matériel pédagogique externe pour opérer de manière appropriée le système de gestion de l’IA et pour améliorer stratégiquement la littératie en IA. Par exemple, il est envisageable de fournir une formation pour améliorer la littératie générale en matière d’éthique de l’IA et de fiabilité de l’IA aux membres du conseil d’administration, à l’équipe de gestion et aux responsables qui portent la responsabilité des aspects légaux et éthiques des systèmes et services d’IA, ainsi que des formations sur les technologies d’IA, y compris l’IA générative, aux personnes en charge des projets de développement, de fourniture et d’utilisation de systèmes et services d’IA, et de proposer à tous une éducation sur le positionnement et l’importance du système de gestion de l’IA.
Source : Annexe des directives pour les opérateurs d’IA
Voici quelques points clés pour la mise en pratique :
- Utiliser des formations et du matériel pédagogique adaptés aux fonctions et responsabilités pour améliorer la littératie en IA
- Adapter l’utilisation des formations et du matériel pédagogique en fonction du rôle de chaque individu
- Concevoir des stratégies telles que rendre obligatoire la formation en éthique de l’IA pour tous les employés, en raison de son importance particulière
Renforcement de la gestion de l’IA par la coopération entre les entités et les départements
Le troisième objectif d’action pour la mise en œuvre du “design de système (construction d’un système de gestion de l’IA)” est le “renforcement de la gestion de l’IA par la coopération entre les entités et les départements”.
Les lignes directrices pour les opérateurs d’IA en Japon stipulent ce qui suit :
Objectif d’action 3-3 [Renforcement de la gestion de l’IA par la coopération entre les entités et les départements]
Les entités, à l’exception de celles qui gèrent en interne la préparation des ensembles de données pour l’apprentissage et le développement, l’offre et l’utilisation des systèmes et services d’IA, sont attendues, sous la direction de la direction et tout en prêtant attention aux secrets d’affaires, à clarifier les défis opérationnels des systèmes et services d’IA qui ne peuvent être pleinement mis en œuvre par leur propre société ou département, ainsi que les informations nécessaires pour résoudre ces défis. Dans le cadre de la préservation de la concurrence loyale, il est attendu qu’elles partagent ces informations dans une mesure possible et raisonnable. À cet égard, il est attendu que les entités conviennent à l’avance de l’étendue de la divulgation des informations entre elles et envisagent la conclusion d’accords de confidentialité pour faciliter les échanges d’informations nécessaires.
Source : Annexe des lignes directrices pour les opérateurs d’IA
Voici quelques points clés pour la mise en pratique :
- Identifier les défis opérationnels des systèmes et services d’IA que chaque entité ne peut résoudre seule, ainsi que les informations nécessaires à leur résolution.
- Partager, dans la mesure du possible et de manière raisonnable, entre les entités, tout en prêtant attention aux droits de propriété intellectuelle et à la vie privée.
※ Il est important de noter que ces actions sont basées sur la préservation de la concurrence loyale et doivent tenir compte des diverses lois et réglementations, des politiques d’IA de chaque entité, des secrets d’affaires et des données fournies de manière limitée.
Réduction de la charge liée aux incidents pour les utilisateurs grâce à la prévention et à une réponse rapide
Le quatrième objectif d’action pour la mise en œuvre du “design de systèmes (construction de systèmes de gestion de l’IA)” est la “réduction de la charge liée aux incidents pour les utilisateurs grâce à la prévention et à une réponse rapide”.
Les lignes directrices pour les opérateurs d’IA stipulent ce qui suit :
Objectif d’action 3-4 [Réduction de la charge liée aux incidents pour les utilisateurs de l’IA et les utilisateurs hors activité grâce à la prévention et à une réponse rapide]
Il est attendu que chaque entité, sous la direction de la couche managériale, réduise la charge liée aux incidents pour les utilisateurs de l’IA et les utilisateurs hors activité grâce à la prévention des incidents et à une réponse rapide.
Source : Annexe des lignes directrices pour les opérateurs d’IA
- Prévenir les incidents tels que les pannes de système, les fuites d’informations et l’apparition de réclamations, et y répondre rapidement en cas de survenue
- Établir un système pour la prévention des incidents et une réponse rapide
Gestion
En matière de gouvernance agile, les objectifs d’action pour la mise en œuvre de la “gestion” mentionnés dans l’annexe des lignes directrices pour les opérateurs d’IA sont les trois suivants :
- Assurer un état explicatif de la situation opérationnelle du système de gestion de l’IA
- Assurer un état explicatif de la situation opérationnelle de chaque système d’IA
- Envisager une divulgation proactive de l’état de la pratique de la gouvernance de l’IA
Assurer un état explicable de l’opération du système de gestion de l’IA
Un des objectifs d’action pour la mise en œuvre de l’« opération » est d’« assurer un état explicable de l’opération du système de gestion de l’IA ».
Les lignes directrices pour les opérateurs d’IA stipulent ce qui suit :
Objectif d’action 4-1 [Assurer un état explicable de l’opération du système de gestion de l’IA]
Il est attendu que chaque entité, sous la direction de la couche managériale, assure la transparence et la responsabilité vis-à-vis des parties prenantes concernées concernant l’état d’opération du système de gestion de l’IA, par exemple en enregistrant la situation de mise en œuvre du processus d’évaluation des écarts de l’objectif d’action 3-1.
Source : Annexe des lignes directrices pour les opérateurs d’IA
Comme point clé de l’opération, il est mentionné qu’il est nécessaire de rendre l’état d’opération du système de gestion de l’IA explicable dans une mesure appropriée et raisonnable aux parties prenantes concernées.
Assurer un état explicable de l’opération individuelle des systèmes d’IA
Le deuxième objectif d’action mentionné pour la mise en œuvre de l’« opération » est « Assurer un état explicable de l’opération individuelle des systèmes de gestion d’IA ».
Il est stipulé dans les directives pour les opérateurs d’IA comme suit :
Objectif d’action 4-2【Assurer un état explicable de l’opération individuelle des systèmes d’IA】
Il est attendu que chaque entité, sous la direction de la couche managériale, surveille continuellement l’évaluation des écarts dans les opérations préliminaires et les opérations à grande échelle de chaque système et service d’IA, en tournant le cycle PDCA et en enregistrant les résultats. Les entités qui développent des systèmes d’IA sont censées soutenir le suivi par les entités qui fournissent et utilisent ces systèmes d’IA.
Source : Annexe des directives pour les opérateurs d’IA
Les points clés de la pratique sont les suivants :
- Surveiller l’état de l’opération de l’IA de chaque entité, en tournant le cycle PDCA et en enregistrant les résultats.
- Si une entité a du mal à répondre seule, elle doit collaborer avec d’autres entités.
Examen de la divulgation proactive de la situation pratique de la gouvernance de l’IA
Le troisième objectif d’action pour la mise en œuvre de l’« opération » est « Assurer un état explicable de la situation opérationnelle du système de gestion de l’IA et examiner la divulgation proactive de la situation pratique de la gouvernance de l’IA ».
Les directives pour les opérateurs d’IA stipulent ce qui suit :
Objectif d’action 4-3 [Examen de la divulgation proactive de la situation pratique de la gouvernance de l’IA]
Il est attendu que chaque entité envisage de divulguer des informations relatives à la définition des objectifs de gouvernance de l’IA, à l’établissement et à l’exploitation du système de gestion de l’IA, en les positionnant comme des informations non financières dans le code de gouvernance d’entreprise. Même pour les entreprises non cotées, il est attendu qu’elles envisagent de divulguer des informations sur leurs activités liées à la gouvernance de l’IA. En outre, il est attendu que, suite à cet examen, si la décision est de ne pas divulguer, cette décision et ses raisons soient rendues publiques auprès des parties prenantes.
Source : Annexe des directives pour les opérateurs d’IA
Voici les points clés pour la mise en pratique :
- Envisager d’assurer la transparence des informations relatives à la gouvernance de l’IA, depuis l’approche fondamentale de l’entreprise envers l’IA jusqu’à l’établissement et l’exploitation du système de gestion de l’IA.
- Lors de la divulgation d’informations sur la gouvernance de l’IA, envisager de les positionner comme des informations non financières dans le code de gouvernance d’entreprise.
- Si l’on choisit de ne pas divulguer d’informations sur la gouvernance de l’IA, publier cette décision et ses raisons auprès des parties prenantes.
Évaluation
Les objectifs d’action pour la mise en œuvre de l’évaluation dans le cadre de l’agilité de la gouvernance sont les deux suivants, comme mentionnés dans l’annexe des lignes directrices pour les opérateurs d’IA :
- Vérification des fonctions du système de gestion de l’IA
- Examen des opinions des parties prenantes externes
Vérification des fonctions du système de gestion de l’IA
Le premier objectif d’action mentionné pour la mise en œuvre de l’évaluation est la “vérification des fonctions du système de gestion de l’IA”.
Les lignes directrices pour les opérateurs d’IA stipulent ce qui suit :
Objectif d’action 5-1 [Vérification des fonctions du système de gestion de l’IA] :
Il est attendu que chaque entité, sous la direction de la couche managériale, demande à des personnes possédant l’expertise pertinente et indépendante de la conception et de l’exploitation du système de gestion de l’IA, d’évaluer si ce système est correctement conçu et opéré en regard des objectifs de gouvernance de l’IA, c’est-à-dire si, à travers la mise en pratique des objectifs d’action 3 et 4, le système de gestion de l’IA fonctionne correctement pour atteindre les objectifs de gouvernance de l’IA, et de rechercher une amélioration continue.
Citation : Lignes directrices pour les opérateurs d’IA
Les points clés pour la mise en pratique sont les suivants :
- Identifier clairement les points clés de l’évaluation pour l’amélioration continue, en les exprimant dans les propres mots de la couche managériale
- Affecter des personnes possédant l’expertise pertinente et indépendante de la conception et de l’exploitation du système de gestion de l’IA
- Surveiller si le système de gestion de l’IA fonctionne correctement
- Effectuer une amélioration continue basée sur les résultats de la surveillance
Examen des opinions des parties prenantes externes
Le deuxième objectif d’action mentionné pour la mise en œuvre de l’évaluation est “l’examen des opinions des parties prenantes externes”.
Les lignes directrices pour les opérateurs d’IA stipulent ce qui suit :
Objectif d’action 5-2 [Examen des opinions des parties prenantes] :
Il est attendu que chaque entité, sous la direction de la couche managériale, envisage de solliciter des opinions sur le système de gestion de l’IA et son exploitation auprès des parties prenantes. Ensuite, si l’entité décide de ne pas mettre en œuvre le contenu de ces opinions, il est attendu qu’elle explique les raisons de cette décision aux parties prenantes.
Citation : Annexe des lignes directrices pour les opérateurs d’IA
Les points clés pour la mise en pratique sont les suivants :
- Envisager de solliciter des opinions sur le système de gestion de l’IA et son exploitation auprès des parties prenantes
- Si le contenu de ces opinions n’est pas mis en œuvre, expliquer les raisons de cette décision aux parties prenantes
Réanalyse de l’environnement et des risques sous la gouvernance agile japonaise
Un objectif d’action pour la mise en œuvre de la “réanalyse de l’environnement et des risques” dans la gouvernance agile est la “réimplémentation opportune des objectifs d’action 1-1 à 1-3”.
Les lignes directrices pour les opérateurs d’IA en Japon stipulent ce qui suit :
Objectif d’action 6-1【Réimplémentation opportune des objectifs d’action 1-1 à 1-3】:
Sous la direction de la couche managériale, il est attendu que chaque entité comprenne rapidement les changements de l’environnement externe tels que l’émergence de nouvelles technologies, les changements dans les systèmes sociaux tels que la réglementation, et procède en temps opportun à une réévaluation, une mise à jour de la compréhension, et l’acquisition de nouvelles perspectives, etc. Sur cette base, il est espéré que des améliorations ou reconstructions des systèmes d’IA, ainsi que des améliorations des opérations seront effectuées. En outre, lors de la mise en œuvre de l’objectif d’action 5-2, il est attendu que l’on envisage d’obtenir des opinions externes non seulement sur le système de gestion de l’IA existant et son fonctionnement, mais aussi sur l’analyse de l’environnement et des risques, et sur la révision globale de la gouvernance de l’IA conforme à la gouvernance agile, qui est également soulignée dans ces directives.
Source : Annexe des lignes directrices pour les opérateurs d’IA
Les points clés pour la pratique sont les suivants :
- Comprendre les changements de l’environnement externe tels que l’émergence de nouvelles technologies, les innovations technologiques liées à l’IA, les changements dans les systèmes sociaux tels que la réglementation, etc.
- Procéder en temps opportun à une réévaluation, une mise à jour de la compréhension, et l’acquisition de nouvelles perspectives, etc., et effectuer des améliorations, reconstructions ou changements d’opérations des systèmes d’IA en conséquence
- Intégrer la philosophie de la gouvernance de l’IA dans la culture de l’organisation
Points d’attention lors de la construction de la gouvernance de l’IA sous le droit japonais
Ce qui précède représente une méthode concrète de gouvernance de l’IA basée sur l’approche de gouvernance agile établie par les “Directives pour les opérateurs d’IA”.
Toutefois, ces directives ont été élaborées comme étant communes à tous les opérateurs d’IA, et il est nécessaire de réfléchir individuellement en fonction du type d’activité de développement, de fourniture ou d’utilisation auquel votre entreprise appartient, ainsi que du type de système ou de service d’IA que vous proposez.
Il est essentiel de déterminer quel type d’organisation et de structure est nécessaire pour votre entreprise, ainsi que les actions et la documentation requises, car cela varie selon les cas. De plus, il faut envisager ces aspects en tenant compte des avantages commerciaux futurs et de la prévention des inconvénients.
En outre, divers risques juridiques se cachent dans les affaires d’IA. C’est pourquoi nous recommandons de solliciter le soutien d’un avocat dès les premières étapes de la mise en place de mesures.
Résumé : L’optimisation selon les directives pour les opérateurs d’IA est une affaire d’avocats
Cet article a expliqué comment établir une gouvernance de l’intelligence artificielle (IA) conforme aux directives pour les opérateurs d’IA au Japon.
Les méthodes de gouvernance de l’IA sont détaillées dans les directives pour les opérateurs d’IA, et les dirigeants doivent, dans le cadre de la gouvernance, créer des organisations internes ou rédiger des documents.
Dans le domaine des affaires en IA, où les changements sont rapides, l’optimisation par rapport à des directives complexes et récemment établies peut être extrêmement difficile. Il est conseillé de construire la gouvernance de l’IA la plus adaptée à votre entreprise en sollicitant dès les premières étapes les conseils d’experts spécialisés dans les domaines de l’IT, y compris l’IA, et du droit.
Présentation des mesures proposées par notre cabinet
Le cabinet d’avocats Monolith combine une expertise approfondie en IT, notamment en droit de l’internet, avec une solide expérience juridique.
Le domaine des affaires liées à l’IA comporte de nombreux risques juridiques, et le soutien d’avocats spécialisés dans les problématiques légales de l’IA est essentiel. Notre cabinet offre un support juridique avancé pour les entreprises impliquées dans les affaires d’IA, y compris ChatGPT, grâce à une équipe composée d’avocats compétents en IA et d’ingénieurs. Nous fournissons des services tels que la rédaction de contrats, l’évaluation de la légalité des modèles d’affaires, la protection des droits de propriété intellectuelle et la conformité en matière de vie privée. Vous trouverez plus de détails dans l’article ci-dessous.
Domaines d’expertise du cabinet Monolith : Droit de l’IA (ChatGPT, etc.)[ja]
Category: IT
