Un des objectifs d’action pour la mise en \u0153uvre de l’\u00ab analyse environnementale et des risques \u00bb est la \u00ab compr\u00e9hension des avantages\/risques \u00bb.<\/p>\n\n\n\n
Il est expliqu\u00e9 comme suit dans l’annexe des directives pour les op\u00e9rateurs d’IA :<\/p>\n\n\n\n
\nObjectif d’action 1-1\u3010Compr\u00e9hension des avantages\/risques\u3011<\/p>\n\n\n\n
Sous la direction de la couche manag\u00e9riale, chaque entit\u00e9 doit clarifier l’objectif du d\u00e9veloppement, de la fourniture et de l’utilisation de l’IA, et comprendre concr\u00e8tement, en rapport avec les activit\u00e9s de chaque entit\u00e9, non seulement les avantages obtenus de l’IA, mais aussi les risques non intentionnels qui existent, rapporter ces \u00e9l\u00e9ments \u00e0 la couche manag\u00e9riale, les partager au sein de la direction et mettre \u00e0 jour la compr\u00e9hension en temps opportun.<\/p>\nSource : Annexe des directives pour les op\u00e9rateurs d’IA<\/cite><\/blockquote>\n\n\n\nLes points particuli\u00e8rement importants sont les suivants :<\/p>\n\n\n\n
\nD\u00e9finir clairement l’objectif du d\u00e9veloppement, de la fourniture et de l’utilisation de l’IA en termes de cr\u00e9ation de valeur dans l’entreprise et de r\u00e9solution de probl\u00e8mes sociaux<\/li>\n\n\n\n Comprendre concr\u00e8tement les avantages et les risques en lien avec les activit\u00e9s de sa propre entreprise<\/li>\n\n\n\n \u00catre attentif aux \u00ab risques \u00bb \u00e0 \u00e9viter et aux questions qui s’\u00e9tendent sur plusieurs entit\u00e9s, et veiller \u00e0 s\u00e9curiser les avantages et \u00e0 r\u00e9duire les risques \u00e0 travers toute la cha\u00eene de valeur\/cha\u00eene de risque<\/li>\n\n\n\n Construire un syst\u00e8me pour rapporter\/partager rapidement avec la couche manag\u00e9riale<\/li>\n<\/ul>\n\n\n\n<\/span>Comprendre l’acceptation sociale de l’IA<\/span><\/h4>\n\n\n\nUn deuxi\u00e8me objectif d’action pour la mise en \u0153uvre de l’analyse des risques et de l’environnement est la “compr\u00e9hension de l’acceptation sociale de l’IA”.<\/p>\n\n\n\n
Il est expliqu\u00e9 comme suit dans l’annexe des directives pour les op\u00e9rateurs d’IA :<\/p>\n\n\n\n
\nObjectif d’action 1-2 [Comprendre l’acceptation sociale de l’IA]\n\n\n\n
Il est attendu que chaque entit\u00e9, sous la direction de la couche manag\u00e9riale, comprenne l’\u00e9tat actuel de l’acceptation sociale en se basant sur les opinions des parties prenantes avant de se lancer pleinement dans le d\u00e9veloppement, la fourniture et l’utilisation de l’IA. De plus, m\u00eame apr\u00e8s le lancement complet des syst\u00e8mes et services d’IA, il est attendu que les opinions des parties prenantes soient r\u00e9examin\u00e9es en temps opportun, en tenant compte des changements dans l’environnement externe.<\/p>\nSource : Annexe des directives pour les op\u00e9rateurs d’IA<\/cite><\/blockquote>\n\n\n\nLes points cl\u00e9s pour la mise en \u0153uvre sont les suivants :<\/p>\n\n\n\n
\nIdentifier les parties prenantes<\/li>\n\n\n\n Encourager les parties prenantes \u00e0 comprendre l’acceptation sociale et \u00e0 d\u00e9velopper, fournir et utiliser l’IA<\/li>\n\n\n\n Apr\u00e8s le lancement des syst\u00e8mes et services d’IA, prendre en compte l’environnement externe qui change rapidement et, si n\u00e9cessaire, r\u00e9examiner en temps opportun les opinions des parties prenantes<\/li>\n<\/ul>\n\n\n\n<\/span>Comprendre le niveau de ma\u00eetrise de l’IA au sein de votre entreprise<\/span><\/h4>\n\n\n\nLe troisi\u00e8me objectif d’action pour la mise en \u0153uvre de l’\u00ab analyse des risques et de l’environnement \u00bb est la \u00ab compr\u00e9hension du niveau de ma\u00eetrise de l’IA au sein de votre entreprise \u00bb.<\/p>\n\n\n\n
Les annexes des directives pour les op\u00e9rateurs d’IA expliquent comme suit :<\/p>\n\n\n\n
\nObjectif d’action 1-3\u3010Comprendre le niveau de ma\u00eetrise de l’IA de votre entreprise\u3011<\/p>\n\n\n\n
Sous la direction de la couche manag\u00e9riale, et apr\u00e8s avoir pris en compte la mise en \u0153uvre des objectifs d’action 1-1 et 1-2, chaque entit\u00e9, sauf si elle juge que les risques sont mineurs au regard de l’usage pr\u00e9vu de l’IA, de son domaine d’activit\u00e9 et de sa taille, doit \u00e9valuer son niveau de ma\u00eetrise de l’IA en se basant sur l’exp\u00e9rience acquise dans le d\u00e9veloppement, la fourniture et l’utilisation de syst\u00e8mes et services d’IA, sur le nombre et l’exp\u00e9rience des employ\u00e9s, y compris les ing\u00e9nieurs, impliqu\u00e9s dans ces activit\u00e9s, ainsi que sur le degr\u00e9 de litt\u00e9ratie en mati\u00e8re de technologie et d’\u00e9thique de l’IA de ces employ\u00e9s. Il est attendu que cette \u00e9valuation soit r\u00e9\u00e9valu\u00e9e en temps opportun et, si possible, que les r\u00e9sultats soient publi\u00e9s \u00e0 l’intention des parties prenantes dans un cadre raisonnable. Si une entit\u00e9 d\u00e9cide de ne pas \u00e9valuer son niveau de ma\u00eetrise de l’IA parce qu’elle consid\u00e8re les risques comme mineurs, il est attendu qu’elle publie ce fait et ses raisons aupr\u00e8s des parties prenantes.<\/p>\nSource : Annexes des directives pour les op\u00e9rateurs d’IA<\/cite><\/blockquote>\n\n\n\nVoici les points cl\u00e9s pour la mise en \u0153uvre :<\/p>\n\n\n\n
\n\u00c9valuer la n\u00e9cessit\u00e9 d’\u00e9valuer le niveau de ma\u00eetrise de l’IA en fonction du domaine d’activit\u00e9 et de la taille de chaque entit\u00e9<\/li>\n\n\n\n Si une \u00e9valuation du niveau de ma\u00eetrise de l’IA est jug\u00e9e n\u00e9cessaire, visualiser la capacit\u00e9 \u00e0 r\u00e9pondre aux risques li\u00e9s \u00e0 l’IA et \u00e9valuer le niveau de ma\u00eetrise<\/li>\n\n\n\n M\u00eame si une \u00e9valuation du niveau de ma\u00eetrise de l’IA n’est pas jug\u00e9e n\u00e9cessaire, publier, dans la mesure du possible et dans un cadre raisonnable, ce fait et ses raisons aupr\u00e8s des parties prenantes<\/li>\n<\/ul>\n\n\n\n<\/span>D\u00e9finition des Objectifs<\/span><\/h3>\n\n\n\nPour mettre en \u0153uvre la d\u00e9finition des objectifs dans le cadre de la gouvernance agile, les objectifs d’action suivants sont \u00e9nonc\u00e9s dans l’annexe des directives pour les op\u00e9rateurs d’IA :<\/p>\n\n\n\n
\nObjectif d’action 2-1\u3010D\u00e9finition des Objectifs de Gouvernance de l’IA\u3011<\/p>\n\n\n\n
Sous la direction de la couche manag\u00e9riale, chaque entit\u00e9 doit consid\u00e9rer les avantages\/risques potentiels que les syst\u00e8mes et services d’IA peuvent apporter, l’acceptation sociale du d\u00e9veloppement, de l’offre et de l’utilisation des syst\u00e8mes et services d’IA, ainsi que le degr\u00e9 de familiarit\u00e9 de l’entreprise avec l’IA. Tout en prenant en compte l’importance du processus menant \u00e0 la d\u00e9finition des objectifs de gouvernance de l’IA, l’entit\u00e9 doit examiner si elle doit \u00e9tablir ses propres objectifs de gouvernance de l’IA (par exemple, une politique d’IA) et proc\u00e9der \u00e0 leur \u00e9tablissement. De plus, il est attendu que les objectifs \u00e9tablis soient rendus publics aupr\u00e8s des parties prenantes. Si une entit\u00e9 choisit de ne pas \u00e9tablir d’objectifs de gouvernance de l’IA en raison de risques jug\u00e9s mineurs, il est attendu qu’elle publie ce fait ainsi que ses raisons aupr\u00e8s des parties prenantes. Si les “principes communs” de ce guide sont jug\u00e9s suffisamment fonctionnels, ils peuvent remplacer les objectifs de gouvernance de l’IA propres \u00e0 l’entreprise.<\/p>\n\n\n\n
M\u00eame si une entit\u00e9 choisit de ne pas d\u00e9finir d’objectifs, il est attendu qu’elle comprenne l’importance de ce guide et mette en \u0153uvre les initiatives li\u00e9es aux objectifs d’action 3 \u00e0 5 selon les besoins.<\/p>\nSource : Annexe des directives pour les op\u00e9rateurs d’IA<\/cite><\/blockquote>\n\n\n\nVoici les points cl\u00e9s pour la mise en \u0153uvre :<\/p>\n\n\n\n
\nExaminer si l’entit\u00e9 doit \u00e9tablir ses propres “Objectifs de Gouvernance de l’IA”<\/li>\n\n\n\n Si l’on juge n\u00e9cessaire de d\u00e9finir des objectifs, les \u00e9tablir<\/li>\n\n\n\n M\u00eame si l’on juge qu’il n’est pas n\u00e9cessaire de d\u00e9finir des objectifs, publier cette d\u00e9cision et ses raisons aupr\u00e8s des parties prenantes dans la mesure du possible et de mani\u00e8re raisonnable.<\/li>\n<\/ul>\n\n\n\n<\/span>Conception de Syst\u00e8mes (Construction de Syst\u00e8mes de Gestion d’IA) sous le Droit Japonais<\/span><\/h3>\n\n\n\nDans le cadre de la mise en \u0153uvre de la conception de syst\u00e8mes agile, notamment la construction de syst\u00e8mes de gestion d’IA, les objectifs d’action suivants sont \u00e9nonc\u00e9s dans les annexes des directives pour les op\u00e9rateurs d’IA :<\/p>\n\n\n\n
\nLa n\u00e9cessit\u00e9 d’\u00e9valuer les objectifs et les \u00e9carts, ainsi que de r\u00e9pondre aux \u00e9carts<\/li>\n\n\n\n L’am\u00e9lioration de la litt\u00e9ratie des talents en gestion d’IA<\/li>\n\n\n\n Le renforcement de la gestion d’IA par la coop\u00e9ration entre les diff\u00e9rentes entit\u00e9s et d\u00e9partements<\/li>\n\n\n\n La r\u00e9duction de la charge li\u00e9e aux incidents pour les utilisateurs gr\u00e2ce \u00e0 la pr\u00e9vention et \u00e0 une r\u00e9ponse rapide<\/li>\n<\/ul>\n\n\n\n<\/span>L’Essentialisation de l’\u00c9valuation des Objectifs et des \u00c9carts et de la R\u00e9ponse aux \u00c9carts<\/span><\/h3>\n\n\n\nUn des objectifs d’action pour la mise en \u0153uvre du “Design de Syst\u00e8me (construction d’un syst\u00e8me de gestion de l’IA)” est “l’Essentialisation de l’\u00c9valuation des Objectifs et des \u00c9carts et de la R\u00e9ponse aux \u00c9carts”.<\/p>\n\n\n\n
Les lignes directrices pour les op\u00e9rateurs d’IA en Japon stipulent ce qui suit :<\/p>\n\n\n\n
\nObjectif d’action 3-1\u3010Essentialisation de l’\u00c9valuation des Objectifs et des \u00c9carts, ainsi que de la R\u00e9ponse aux \u00c9carts\u3011<\/p>\n\n\n\n
Sous la direction de la couche manag\u00e9riale, il est attendu que chaque entit\u00e9 identifie les \u00e9carts par rapport aux Objectifs de Gouvernance de l’IA de l’entit\u00e9, \u00e9value les impacts r\u00e9sultant de ces \u00e9carts, et, en cas de risques identifi\u00e9s, consid\u00e8re leur ampleur, leur port\u00e9e, leur fr\u00e9quence d’occurrence, etc., pour juger de la rationalit\u00e9 de leur acceptation. Si l’acceptation est jug\u00e9e irrationnelle, il est attendu que l’entit\u00e9 repense la mani\u00e8re de d\u00e9velopper, fournir et utiliser l’IA. Ce processus devrait \u00eatre int\u00e9gr\u00e9 \u00e0 toutes les \u00e9tapes appropri\u00e9es du syst\u00e8me de gestion de l’IA, ainsi qu’aux \u00e9tapes de conception, de d\u00e9veloppement, avant le d\u00e9but de l’utilisation et apr\u00e8s le d\u00e9but de l’utilisation des syst\u00e8mes et services d’IA. Il est crucial que la couche manag\u00e9riale \u00e9tablisse les politiques de base pour ce processus de r\u00e9flexion, tandis que la couche op\u00e9rationnelle concr\u00e9tise ce processus. De plus, il est attendu que des personnes qui ne sont pas directement impliqu\u00e9es dans le d\u00e9veloppement, la fourniture et l’utilisation de l’IA concern\u00e9e participent \u00e0 l’\u00e9valuation des \u00e9carts par rapport aux Objectifs de Gouvernance de l’IA. Cependant, il n’est pas appropri\u00e9 de refuser arbitrairement le d\u00e9veloppement, la fourniture et l’utilisation de l’IA uniquement sur la base de l’existence d’\u00e9carts. Par cons\u00e9quent, l’\u00e9valuation des \u00e9carts est une \u00e9tape pour \u00e9valuer les risques et ne doit servir que de point de d\u00e9part pour l’am\u00e9lioration.<\/p>\nSource : Annexe des lignes directrices pour les op\u00e9rateurs d’IA<\/cite><\/blockquote>\n\n\n\nVoici les points cl\u00e9s pour la mise en pratique :<\/p>\n\n\n\n
\nIdentifier et \u00e9valuer l’ampleur des \u00e9carts entre les syst\u00e8mes et services d’IA actuels et les “Objectifs de Gouvernance de l’IA”.<\/li>\n\n\n\n Juger de la rationalit\u00e9 de l’acceptation des risques identifi\u00e9s lors de l’utilisation des syst\u00e8mes et services d’IA.<\/li>\n\n\n\n Si l’acceptation est jug\u00e9e irrationnelle, repenser la mani\u00e8re de d\u00e9velopper, fournir et utiliser l’IA et int\u00e9grer ce processus de r\u00e9flexion aux \u00e9tapes appropri\u00e9es du d\u00e9veloppement, de la fourniture et de l’utilisation, ainsi qu’aux processus de prise de d\u00e9cision au sein de l’organisation de chaque entit\u00e9.<\/li>\n\n\n\n La couche manag\u00e9riale doit prendre le leadership dans ces actions, assumer la responsabilit\u00e9 de ces d\u00e9cisions et la couche op\u00e9rationnelle doit les concr\u00e9tiser, en les mettant en \u0153uvre de mani\u00e8re continue.<\/li>\n\n\n\n Pour cultiver une compr\u00e9hension commune au sein de chaque entit\u00e9, partager les \u00e9l\u00e9ments d’\u00e9valuation des \u00e9carts d\u00e9cid\u00e9s au sein de l’entit\u00e9.<\/li>\n<\/ul>\n\n\n\n<\/span>Am\u00e9lioration de la litt\u00e9ratie en gestion de l’IA pour les professionnels<\/span><\/h4>\n\n\n\nUn deuxi\u00e8me objectif d’action pour la mise en \u0153uvre du “Design de Syst\u00e8me (construction d’un syst\u00e8me de gestion de l’IA)” est “l’am\u00e9lioration de la litt\u00e9ratie en gestion de l’IA pour les professionnels”.<\/p>\n\n\n\n
Les directives pour les op\u00e9rateurs d’IA stipulent ce qui suit :<\/p>\n\n\n\n
\nObjectif d’action 3-2 [Am\u00e9lioration de la litt\u00e9ratie du personnel dans le syst\u00e8me de gestion de l’IA]\n\n\n\n
Sous la direction de la couche manag\u00e9riale, il est attendu de chaque entit\u00e9 qu’elle envisage l’utilisation de mat\u00e9riel p\u00e9dagogique externe pour op\u00e9rer de mani\u00e8re appropri\u00e9e le syst\u00e8me de gestion de l’IA et pour am\u00e9liorer strat\u00e9giquement la litt\u00e9ratie en IA. Par exemple, il est envisageable de fournir une formation pour am\u00e9liorer la litt\u00e9ratie g\u00e9n\u00e9rale en mati\u00e8re d’\u00e9thique de l’IA et de fiabilit\u00e9 de l’IA aux membres du conseil d’administration, \u00e0 l’\u00e9quipe de gestion et aux responsables qui portent la responsabilit\u00e9 des aspects l\u00e9gaux et \u00e9thiques des syst\u00e8mes et services d’IA, ainsi que des formations sur les technologies d’IA, y compris l’IA g\u00e9n\u00e9rative, aux personnes en charge des projets de d\u00e9veloppement, de fourniture et d’utilisation de syst\u00e8mes et services d’IA, et de proposer \u00e0 tous une \u00e9ducation sur le positionnement et l’importance du syst\u00e8me de gestion de l’IA.<\/p>\nSource : Annexe des directives pour les op\u00e9rateurs d’IA<\/cite><\/blockquote>\n\n\n\nVoici quelques points cl\u00e9s pour la mise en pratique :<\/p>\n\n\n\n
\nUtiliser des formations et du mat\u00e9riel p\u00e9dagogique adapt\u00e9s aux fonctions et responsabilit\u00e9s pour am\u00e9liorer la litt\u00e9ratie en IA<\/li>\n\n\n\n Adapter l’utilisation des formations et du mat\u00e9riel p\u00e9dagogique en fonction du r\u00f4le de chaque individu<\/li>\n\n\n\n Concevoir des strat\u00e9gies telles que rendre obligatoire la formation en \u00e9thique de l’IA pour tous les employ\u00e9s, en raison de son importance particuli\u00e8re<\/li>\n<\/ul>\n\n\n\n<\/span>Renforcement de la gestion de l’IA par la coop\u00e9ration entre les entit\u00e9s et les d\u00e9partements<\/span><\/h4>\n\n\n\nLe troisi\u00e8me objectif d’action pour la mise en \u0153uvre du “design de syst\u00e8me (construction d’un syst\u00e8me de gestion de l’IA)” est le “renforcement de la gestion de l’IA par la coop\u00e9ration entre les entit\u00e9s et les d\u00e9partements”.<\/p>\n\n\n\n
Les lignes directrices pour les op\u00e9rateurs d’IA en Japon stipulent ce qui suit :<\/p>\n\n\n\n
\nObjectif d’action 3-3 [Renforcement de la gestion de l’IA par la coop\u00e9ration entre les entit\u00e9s et les d\u00e9partements]\n\n\n\n
Les entit\u00e9s, \u00e0 l’exception de celles qui g\u00e8rent en interne la pr\u00e9paration des ensembles de donn\u00e9es pour l’apprentissage et le d\u00e9veloppement, l’offre et l’utilisation des syst\u00e8mes et services d’IA, sont attendues, sous la direction de la direction et tout en pr\u00eatant attention aux secrets d’affaires, \u00e0 clarifier les d\u00e9fis op\u00e9rationnels des syst\u00e8mes et services d’IA qui ne peuvent \u00eatre pleinement mis en \u0153uvre par leur propre soci\u00e9t\u00e9 ou d\u00e9partement, ainsi que les informations n\u00e9cessaires pour r\u00e9soudre ces d\u00e9fis. Dans le cadre de la pr\u00e9servation de la concurrence loyale, il est attendu qu’elles partagent ces informations dans une mesure possible et raisonnable. \u00c0 cet \u00e9gard, il est attendu que les entit\u00e9s conviennent \u00e0 l’avance de l’\u00e9tendue de la divulgation des informations entre elles et envisagent la conclusion d’accords de confidentialit\u00e9 pour faciliter les \u00e9changes d’informations n\u00e9cessaires.<\/p>\nSource : Annexe des lignes directrices pour les op\u00e9rateurs d’IA<\/cite><\/blockquote>\n\n\n\nVoici quelques points cl\u00e9s pour la mise en pratique :<\/p>\n\n\n\n
\nIdentifier les d\u00e9fis op\u00e9rationnels des syst\u00e8mes et services d’IA que chaque entit\u00e9 ne peut r\u00e9soudre seule, ainsi que les informations n\u00e9cessaires \u00e0 leur r\u00e9solution.<\/li>\n\n\n\n Partager, dans la mesure du possible et de mani\u00e8re raisonnable, entre les entit\u00e9s, tout en pr\u00eatant attention aux droits de propri\u00e9t\u00e9 intellectuelle et \u00e0 la vie priv\u00e9e.<\/li>\n<\/ul>\n\n\n\n\u203b Il est important de noter que ces actions sont bas\u00e9es sur la pr\u00e9servation de la concurrence loyale et doivent tenir compte des diverses lois et r\u00e9glementations, des politiques d’IA de chaque entit\u00e9, des secrets d’affaires et des donn\u00e9es fournies de mani\u00e8re limit\u00e9e.<\/p>\n\n\n\n
<\/span>R\u00e9duction de la charge li\u00e9e aux incidents pour les utilisateurs gr\u00e2ce \u00e0 la pr\u00e9vention et \u00e0 une r\u00e9ponse rapide<\/span><\/h4>\n\n\n\nLe quatri\u00e8me objectif d’action pour la mise en \u0153uvre du “design de syst\u00e8mes (construction de syst\u00e8mes de gestion de l’IA)” est la “r\u00e9duction de la charge li\u00e9e aux incidents pour les utilisateurs gr\u00e2ce \u00e0 la pr\u00e9vention et \u00e0 une r\u00e9ponse rapide”.<\/p>\n\n\n\n
Les lignes directrices pour les op\u00e9rateurs d’IA stipulent ce qui suit :<\/p>\n\n\n\n
\nObjectif d’action 3-4 [R\u00e9duction de la charge li\u00e9e aux incidents pour les utilisateurs de l’IA et les utilisateurs hors activit\u00e9 gr\u00e2ce \u00e0 la pr\u00e9vention et \u00e0 une r\u00e9ponse rapide]\n\n\n\n
Il est attendu que chaque entit\u00e9, sous la direction de la couche manag\u00e9riale, r\u00e9duise la charge li\u00e9e aux incidents pour les utilisateurs de l’IA et les utilisateurs hors activit\u00e9 gr\u00e2ce \u00e0 la pr\u00e9vention des incidents et \u00e0 une r\u00e9ponse rapide.<\/p>\nSource : Annexe des lignes directrices pour les op\u00e9rateurs d’IA<\/cite><\/blockquote>\n\n\n\n\nPr\u00e9venir les incidents tels que les pannes de syst\u00e8me, les fuites d’informations et l’apparition de r\u00e9clamations, et y r\u00e9pondre rapidement en cas de survenue<\/li>\n\n\n\n \u00c9tablir un syst\u00e8me pour la pr\u00e9vention des incidents et une r\u00e9ponse rapide<\/li>\n<\/ul>\n\n\n\n<\/span>Gestion<\/span><\/h3>\n\n\n\nEn mati\u00e8re de gouvernance agile, les objectifs d’action pour la mise en \u0153uvre de la “gestion” mentionn\u00e9s dans l’annexe des lignes directrices pour les op\u00e9rateurs d’IA sont les trois suivants :<\/p>\n\n\n\n
\nAssurer un \u00e9tat explicatif de la situation op\u00e9rationnelle du syst\u00e8me de gestion de l’IA<\/li>\n\n\n\n Assurer un \u00e9tat explicatif de la situation op\u00e9rationnelle de chaque syst\u00e8me d’IA<\/li>\n\n\n\n Envisager une divulgation proactive de l’\u00e9tat de la pratique de la gouvernance de l’IA<\/li>\n<\/ul>\n\n\n\n<\/span>Assurer un \u00e9tat explicable de l’op\u00e9ration du syst\u00e8me de gestion de l’IA<\/span><\/h4>\n\n\n\nUn des objectifs d’action pour la mise en \u0153uvre de l’\u00ab op\u00e9ration \u00bb est d’\u00ab assurer un \u00e9tat explicable de l’op\u00e9ration du syst\u00e8me de gestion de l’IA \u00bb.<\/p>\n\n\n\n
Les lignes directrices pour les op\u00e9rateurs d’IA stipulent ce qui suit :<\/p>\n\n\n\n
\nObjectif d’action 4-1 [Assurer un \u00e9tat explicable de l’op\u00e9ration du syst\u00e8me de gestion de l’IA]\n\n\n\n
Il est attendu que chaque entit\u00e9, sous la direction de la couche manag\u00e9riale, assure la transparence et la responsabilit\u00e9 vis-\u00e0-vis des parties prenantes concern\u00e9es concernant l’\u00e9tat d’op\u00e9ration du syst\u00e8me de gestion de l’IA, par exemple en enregistrant la situation de mise en \u0153uvre du processus d’\u00e9valuation des \u00e9carts de l’objectif d’action 3-1.<\/p>\nSource : Annexe des lignes directrices pour les op\u00e9rateurs d’IA<\/cite><\/blockquote>\n\n\n\nComme point cl\u00e9 de l’op\u00e9ration, il est mentionn\u00e9 qu’il est n\u00e9cessaire de rendre l’\u00e9tat d’op\u00e9ration du syst\u00e8me de gestion de l’IA explicable dans une mesure appropri\u00e9e et raisonnable aux parties prenantes concern\u00e9es.<\/p>\n\n\n\n
<\/span>Assurer un \u00e9tat explicable de l’op\u00e9ration individuelle des syst\u00e8mes d’IA<\/span><\/h4>\n\n\n\nLe deuxi\u00e8me objectif d’action mentionn\u00e9 pour la mise en \u0153uvre de l’\u00ab op\u00e9ration \u00bb est \u00ab Assurer un \u00e9tat explicable de l’op\u00e9ration individuelle des syst\u00e8mes de gestion d’IA \u00bb.<\/p>\n\n\n\n
Il est stipul\u00e9 dans les directives pour les op\u00e9rateurs d’IA comme suit :<\/p>\n\n\n\n
\nObjectif d’action 4-2\u3010Assurer un \u00e9tat explicable de l’op\u00e9ration individuelle des syst\u00e8mes d’IA\u3011<\/p>\n\n\n\n
Il est attendu que chaque entit\u00e9, sous la direction de la couche manag\u00e9riale, surveille continuellement l’\u00e9valuation des \u00e9carts dans les op\u00e9rations pr\u00e9liminaires et les op\u00e9rations \u00e0 grande \u00e9chelle de chaque syst\u00e8me et service d’IA, en tournant le cycle PDCA et en enregistrant les r\u00e9sultats. Les entit\u00e9s qui d\u00e9veloppent des syst\u00e8mes d’IA sont cens\u00e9es soutenir le suivi par les entit\u00e9s qui fournissent et utilisent ces syst\u00e8mes d’IA.<\/p>\nSource : Annexe des directives pour les op\u00e9rateurs d’IA<\/cite><\/blockquote>\n\n\n\nLes points cl\u00e9s de la pratique sont les suivants :<\/p>\n\n\n\n
\nSurveiller l’\u00e9tat de l’op\u00e9ration de l’IA de chaque entit\u00e9, en tournant le cycle PDCA et en enregistrant les r\u00e9sultats.<\/li>\n\n\n\n Si une entit\u00e9 a du mal \u00e0 r\u00e9pondre seule, elle doit collaborer avec d’autres entit\u00e9s.<\/li>\n<\/ul>\n\n\n\n<\/span>Examen de la divulgation proactive de la situation pratique de la gouvernance de l’IA<\/span><\/h4>\n\n\n\nLe troisi\u00e8me objectif d’action pour la mise en \u0153uvre de l’\u00ab op\u00e9ration \u00bb est \u00ab Assurer un \u00e9tat explicable de la situation op\u00e9rationnelle du syst\u00e8me de gestion de l’IA et examiner la divulgation proactive de la situation pratique de la gouvernance de l’IA \u00bb.<\/p>\n\n\n\n
Les directives pour les op\u00e9rateurs d’IA stipulent ce qui suit :<\/p>\n\n\n\n
\nObjectif d’action 4-3 [Examen de la divulgation proactive de la situation pratique de la gouvernance de l’IA]\n\n\n\n
Il est attendu que chaque entit\u00e9 envisage de divulguer des informations relatives \u00e0 la d\u00e9finition des objectifs de gouvernance de l’IA, \u00e0 l’\u00e9tablissement et \u00e0 l’exploitation du syst\u00e8me de gestion de l’IA, en les positionnant comme des informations non financi\u00e8res dans le code de gouvernance d’entreprise. M\u00eame pour les entreprises non cot\u00e9es, il est attendu qu’elles envisagent de divulguer des informations sur leurs activit\u00e9s li\u00e9es \u00e0 la gouvernance de l’IA. En outre, il est attendu que, suite \u00e0 cet examen, si la d\u00e9cision est de ne pas divulguer, cette d\u00e9cision et ses raisons soient rendues publiques aupr\u00e8s des parties prenantes.<\/p>\nSource : Annexe des directives pour les op\u00e9rateurs d’IA<\/cite><\/blockquote>\n\n\n\nVoici les points cl\u00e9s pour la mise en pratique :<\/p>\n\n\n\n
\nEnvisager d’assurer la transparence des informations relatives \u00e0 la gouvernance de l’IA, depuis l’approche fondamentale de l’entreprise envers l’IA jusqu’\u00e0 l’\u00e9tablissement et l’exploitation du syst\u00e8me de gestion de l’IA.<\/li>\n\n\n\n Lors de la divulgation d’informations sur la gouvernance de l’IA, envisager de les positionner comme des informations non financi\u00e8res dans le code de gouvernance d’entreprise.<\/li>\n\n\n\n Si l’on choisit de ne pas divulguer d’informations sur la gouvernance de l’IA, publier cette d\u00e9cision et ses raisons aupr\u00e8s des parties prenantes.<\/li>\n<\/ul>\n\n\n\n<\/span>\u00c9valuation<\/span><\/h3>\n\n\n\nLes objectifs d’action pour la mise en \u0153uvre de l’\u00e9valuation dans le cadre de l’agilit\u00e9 de la gouvernance sont les deux suivants, comme mentionn\u00e9s dans l’annexe des lignes directrices pour les op\u00e9rateurs d’IA :<\/p>\n\n\n\n
\nV\u00e9rification des fonctions du syst\u00e8me de gestion de l’IA<\/li>\n\n\n\n Examen des opinions des parties prenantes externes<\/li>\n<\/ul>\n\n\n\n<\/span>V\u00e9rification des fonctions du syst\u00e8me de gestion de l’IA<\/span><\/h4>\n\n\n\nLe premier objectif d’action mentionn\u00e9 pour la mise en \u0153uvre de l’\u00e9valuation est la “v\u00e9rification des fonctions du syst\u00e8me de gestion de l’IA”.<\/p>\n\n\n\n
Les lignes directrices pour les op\u00e9rateurs d’IA stipulent ce qui suit :<\/p>\n\n\n\n
\nObjectif d’action 5-1 [V\u00e9rification des fonctions du syst\u00e8me de gestion de l’IA] :<\/p>\n\n\n\n
Il est attendu que chaque entit\u00e9, sous la direction de la couche manag\u00e9riale, demande \u00e0 des personnes poss\u00e9dant l’expertise pertinente et ind\u00e9pendante de la conception et de l’exploitation du syst\u00e8me de gestion de l’IA, d’\u00e9valuer si ce syst\u00e8me est correctement con\u00e7u et op\u00e9r\u00e9 en regard des objectifs de gouvernance de l’IA, c’est-\u00e0-dire si, \u00e0 travers la mise en pratique des objectifs d’action 3 et 4, le syst\u00e8me de gestion de l’IA fonctionne correctement pour atteindre les objectifs de gouvernance de l’IA, et de rechercher une am\u00e9lioration continue.<\/p>\n\n\n\n
Citation : Lignes directrices pour les op\u00e9rateurs d’IA<\/p>\n<\/blockquote>\n\n\n\n
Les points cl\u00e9s pour la mise en pratique sont les suivants :<\/p>\n\n\n\n
\nIdentifier clairement les points cl\u00e9s de l’\u00e9valuation pour l’am\u00e9lioration continue, en les exprimant dans les propres mots de la couche manag\u00e9riale<\/li>\n\n\n\n Affecter des personnes poss\u00e9dant l’expertise pertinente et ind\u00e9pendante de la conception et de l’exploitation du syst\u00e8me de gestion de l’IA<\/li>\n\n\n\n Surveiller si le syst\u00e8me de gestion de l’IA fonctionne correctement<\/li>\n\n\n\n Effectuer une am\u00e9lioration continue bas\u00e9e sur les r\u00e9sultats de la surveillance<\/li>\n<\/ul>\n\n\n\n<\/span>Examen des opinions des parties prenantes externes<\/span><\/h4>\n\n\n\nLe deuxi\u00e8me objectif d’action mentionn\u00e9 pour la mise en \u0153uvre de l’\u00e9valuation est “l’examen des opinions des parties prenantes externes”.<\/p>\n\n\n\n
Les lignes directrices pour les op\u00e9rateurs d’IA stipulent ce qui suit :<\/p>\n\n\n\n
\nObjectif d’action 5-2 [Examen des opinions des parties prenantes] :<\/p>\n\n\n\n
Il est attendu que chaque entit\u00e9, sous la direction de la couche manag\u00e9riale, envisage de solliciter des opinions sur le syst\u00e8me de gestion de l’IA et son exploitation aupr\u00e8s des parties prenantes. Ensuite, si l’entit\u00e9 d\u00e9cide de ne pas mettre en \u0153uvre le contenu de ces opinions, il est attendu qu’elle explique les raisons de cette d\u00e9cision aux parties prenantes.<\/p>\nCitation : Annexe des lignes directrices pour les op\u00e9rateurs d’IA<\/cite><\/blockquote>\n\n\n\nLes points cl\u00e9s pour la mise en pratique sont les suivants :<\/p>\n\n\n\n
\nEnvisager de solliciter des opinions sur le syst\u00e8me de gestion de l’IA et son exploitation aupr\u00e8s des parties prenantes<\/li>\n\n\n\n Si le contenu de ces opinions n’est pas mis en \u0153uvre, expliquer les raisons de cette d\u00e9cision aux parties prenantes<\/li>\n<\/ul>\n\n\n\n<\/span>R\u00e9analyse de l’environnement et des risques sous la gouvernance agile japonaise<\/span><\/h3>\n\n\n\nUn objectif d’action pour la mise en \u0153uvre de la “r\u00e9analyse de l’environnement et des risques” dans la gouvernance agile est la “r\u00e9impl\u00e9mentation opportune des objectifs d’action 1-1 \u00e0 1-3”.<\/p>\n\n\n\n
Les lignes directrices pour les op\u00e9rateurs d’IA en Japon stipulent ce qui suit :<\/p>\n\n\n\n
\nObjectif d’action 6-1\u3010R\u00e9impl\u00e9mentation opportune des objectifs d’action 1-1 \u00e0 1-3\u3011:<\/p>\n\n\n\n
Sous la direction de la couche manag\u00e9riale, il est attendu que chaque entit\u00e9 comprenne rapidement les changements de l’environnement externe tels que l’\u00e9mergence de nouvelles technologies, les changements dans les syst\u00e8mes sociaux tels que la r\u00e9glementation, et proc\u00e8de en temps opportun \u00e0 une r\u00e9\u00e9valuation, une mise \u00e0 jour de la compr\u00e9hension, et l’acquisition de nouvelles perspectives, etc. Sur cette base, il est esp\u00e9r\u00e9 que des am\u00e9liorations ou reconstructions des syst\u00e8mes d’IA, ainsi que des am\u00e9liorations des op\u00e9rations seront effectu\u00e9es. En outre, lors de la mise en \u0153uvre de l’objectif d’action 5-2, il est attendu que l’on envisage d’obtenir des opinions externes non seulement sur le syst\u00e8me de gestion de l’IA existant et son fonctionnement, mais aussi sur l’analyse de l’environnement et des risques, et sur la r\u00e9vision globale de la gouvernance de l’IA conforme \u00e0 la gouvernance agile, qui est \u00e9galement soulign\u00e9e dans ces directives.<\/p>\nSource : Annexe des lignes directrices pour les op\u00e9rateurs d’IA<\/cite><\/blockquote>\n\n\n\nLes points cl\u00e9s pour la pratique sont les suivants :<\/p>\n\n\n\n
\nComprendre les changements de l’environnement externe tels que l’\u00e9mergence de nouvelles technologies, les innovations technologiques li\u00e9es \u00e0 l’IA, les changements dans les syst\u00e8mes sociaux tels que la r\u00e9glementation, etc.<\/li>\n\n\n\n Proc\u00e9der en temps opportun \u00e0 une r\u00e9\u00e9valuation, une mise \u00e0 jour de la compr\u00e9hension, et l’acquisition de nouvelles perspectives, etc., et effectuer des am\u00e9liorations, reconstructions ou changements d’op\u00e9rations des syst\u00e8mes d’IA en cons\u00e9quence<\/li>\n\n\n\n Int\u00e9grer la philosophie de la gouvernance de l’IA dans la culture de l’organisation<\/li>\n<\/ul>\n\n\n\n