企業が取り組むべきAIガバナンスとは？「AI事業者ガイドライン」に基づくポイントを解説
2024年4月19日に総務省および経済産業省は「AI事業者ガイドライン」を公表しました。その目的は、AIの安全な活用を促進し、AIの社会実装を推進することです。同ガイドラインは、AIの開発・提供・利用に携わる事業者や公的機関、教育機関、NPO・NGOなどの団体を対象としています。
「AI事業者ガイドライン」では、開発・提供・利用をする各主体に対してAIガバナンスの構築が重要であるとしています。では、AIガバナンスの構築として企業はどのような取り組みが必要なのでしょうか。
本記事では、「AI事業者ガイドライン」に基づいて企業が取り組むべきAIガバナンスのポイントについて解説します。
この記事の目次
AI事業者ガイドラインとは
AI事業者ガイドラインとは、2024年に総務省と経済産業省が策定したもので、AIの安全安⼼な活⽤が促進されるよう、我が国における AIガバナンスの統⼀的な指針を⽰す目的で策定されたものです。
従来策定されていた「AI開発ガイドライン」・「AI利活用ガイドライン」・「AI原則実践のためのガバナンス・ガイドライン」を統合・見直して策定されたもので、AIを活⽤する事業者が安全安⼼な AIの活⽤のための望ましい⾏動につながる指針を確認できるものとして策定されました。
AI事業者ガイドラインについては「経済産業省「AI事業者ガイドライン」の内容を弁護士が解説」で解説しているので、参考にしてください。
関連記事：経済産業省「AI事業者ガイドライン」の内容を弁護士が解説
AIガバナンスとは
AIガバナンスとは、AI事業者ガイドラインでは「AI の利活⽤によって⽣じるリスクをステークホルダーにとって受容可能な⽔準で管理しつつ、そこからもたらされる正のインパクト（便益）を最⼤化することを⽬的とする、ステークホルダーによる技術的、組織的、及び社会的システムの設計並びに運⽤」と定義されています。
また、このAIガバナンスについて、AI事業者ガイドラインでは「各主体間で連携しバリューチェーン全体で共通の指針を実践し AI を安全安⼼に活⽤していくためには、AIに関するリスクをステークホルダーにとって受容可能な⽔準で管理しつつ、そこからもたらされる便益を最⼤化するための、AI ガバナンスの構築が重要となる」としています。
つまり、AIガバナンスの構築は、AI開発・提供・利用をするそれぞれの主体にとって重要です。
AIガバナンスの構築における「アジャイルガバナンス」の実践とは
AIガバナンスの構築にあって重要とされるのが「アジャイルガバナンス」を実践することであるとされています。
アジャイルガバナンスとは、事前に固定的なルールを設定するのではなく、外部環境やリスクの変化に柔軟に対応するために、「環境・リスク分析」「ゴール設定」「システムデザイン」「運⽤」「評価」といったサイクルを継続的に回すアプローチのことを言います。
AIに関する事業では、複雑で変化が早いため、目指すゴールも常に変化します。
そのため、AIガバナンスの構築において事前にルールまたは⼿続を固定するのではなく、各企業の規模や事業内容に応じた柔軟な対応が必要です。そのため、AI事業者ガイドラインでは、アジャイルガバナンスの手法によるガバナンスの構築が推奨されています。
なお、アジャイルとは英語で「素早い」「機敏な」という意味を指します。
アジャイルガバナンスの実施はAI事業者ガイドライン本編では次のように行うことが記載されています。
- AIシステム・サービスの社会的受容という外部環境の変化や、AIシステム・サービスの利用にどのような便益・リスクがあるかの分析である「環境・リスク分析」を実施します。
- AI システム・サービスを開発・提供・利用するか否かを判断し、開発・提供・利用する場合には、「ゴールの設定」をします。
- 設定されたAI ガバナンス・ゴールを達成するための「AI マネジメントシステムの設計」を行い、その「運用」をします。その際に企業はAI ガバナンス・ゴール及びその運用状況について、外部のステークホルダーに対する透明性、アカウンタビリティ（公平性等）を果たすようにします。
- AI マネジメントシステムが有効に機能しているかを継続的にモニタリングし、「評価」を行います。
- AI システム・サービスの運用開始後も、外部環境の変化を踏まえ、再び「環境・リスク分析」を実施し、必要に応じてゴールを見直します。
これら1～5を実践するための具体的な行動目標が、AI事業者ガイドライン別添に記載されているので、それぞれの項目ごとに具体的に確認しましょう。
アジャイルガバナンスを実践するための行動目標
アジャイルガバナンスを実践するための行動目標を、AI事業者ガイドライン別添をもとに確認しましょう。
環境・リスク分析
アジャイルガバナンスの「環境・リスク分析」の実施のための行動目標としてAI事業者ガイドライン別添で挙げられるのが次の3つです。
- 便益/リスクの理解
- AIの社会的な受容の理解
- 自社のAI習熟度の理解
便益/リスクの理解
「環境・リスク分析」の実施のための行動目標として挙げられる1つめが「便益/リスクの理解」です。
AI事業者ガイドライン別添では次のように説明されています。
行動目標 1-1【便益/リスクの理解】
各主体は、経営層のリーダーシップの下、AI の開発・提供・利用の目的を明確化したうえで、AI から得られる便益だけではなく意図しないリスクがあることについて、各主体の事業に照らして具体的に理解し、これらを経営層に報告し、経営層で共有し、適時に理解を更新する。
引用：AI事業者ガイドライン別添
特にポイントとなるのは次の点です。
- 事業における価値の創出、社会課題の解決等の AI の開発・提供・利用の目的を明確に定義すること
- 自社の事業に結びつく形で便益・リスクを具体的に理解すること
- 回避すべき「リスク」及び複数主体にまたがる論点に留意し、バリューチェーン/リスクチェーン全体で便益を確保、リスクを削減
- 迅速に経営層に報告/共有する仕組みを構築すること
AI の社会的な受容の理解
「環境・リスク分析」の実施のための行動目標として挙げられる2つめが「AIの社会的な受容の理解」です。
AI事業者ガイドライン別添では次のように説明されています。
行動目標 1-2【AI の社会的な受容の理解】
各主体は、経営層のリーダーシップの下、AI の本格的な開発・提供・利用に先立ち、ステークホルダーの意見にもとづいて、社会的な受容の現状を理解することが期待される。また、AI システム・サービスの本格的な開発・提供・利用後も、外部環境の変化を踏まえ、適時にステークホルダーの意見を再確認することが期待される。
引用：AI事業者ガイドライン別添
実施のためのポイントは次の通りです。
- ステークホルダーを特定
- ステークホルダーに社会的な受容の理解に努めAI を開発・提供・利用
- AIシステム・サービス提供開始後も急速に変化する外部環境を考慮し必要に応じて適時にステークホルダーの意見を再確認する
自社の AI 習熟度の理解
「環境・リスク分析」の実施のための行動目標として挙げられる3つめが「自社のAI 習熟度の理解」です。
AI事業者ガイドライン別添では次のように説明されています。
行動目標 1-3【自社の AI習熟度の理解】
各主体は、経営層のリーダーシップの下、行動目標 1-1、1-2 の実施を踏まえ、活用しようとする AIの用途、自社の事業領域及び規模等に照らしてリスクが軽微であると判断した場合を除き、自社の AIシステム・サービスの開発・提供・利用の経験の程度、AIシステム・サービスの開発・提供・利用に関与するエンジニアを含む従業員の人数及び経験の程度、当該従業員の AI技術及び倫理に関するリテラシーの程度等にもとづいて、自社のAI習熟度を評価し、適時に再評価する。可能であれば、合理的な範囲でその結果をステークホルダーに公開することが期待される。リスクが軽微であると判断し、AI習熟度の評価をしない場合には、評価しないという事実をその理由とともにステークホルダーに公開することが期待される。
引用：AI事業者ガイドライン別添
実施のためのポイントは次の通りです。
- 各主体の事業領域及び規模等に照らして AI習熟度の評価の必要性を検討する
- AI習熟度の評価が必要であると判断した場合、AIのリスクへの対応力を見える化し、AI習熟度を評価する
- AI習熟度の評価が必要ではないと判断した場合でも可能であれば合理的な範囲でその事実を理由とともにステークホルダーに公開する
ゴール設定
アジャイルガバナンスの「ゴール設定」の実施のための行動目標としてAI事業者ガイドライン別添では次の行動目標が挙げられています。
行動目標 2-1【AIガバナンス・ゴールの設定】
各主体は、経営層のリーダーシップの下、AIシステム・サービスがもたらしうる便益/リスク、AIシステム・サービスの開発・提供・利用に関する社会的受容、自社の AI習熟度を考慮しつつ、AIガバナンス・ゴールの設定に至るプロセスの重要性にも留意しながら、自社の AIガバナンス・ゴール（例えば AIポリシー）を設定するか否かについて検討し、設定する。また、設定したゴールについてはステークホルダーに対して公開することが期待される。潜在的なリスクが軽微であることを理由に AIガバナンス・ゴールを設定しない場合には、設定しないという事実をその理由とともにステークホルダーに公開することが期待される。本ガイドラインおける「共通の指針」が十分に機能すると判断した場合は、自社の AIガバナンス・ゴールに代えて当該「共通の指針」をゴールとしてもよい。
なお、ゴールを設定しない場合であっても、本ガイドラインの重要性を理解し、行動目標 3 から 5 に係る取組を適宜実施することが期待される。
引用：AI事業者ガイドライン別添
実施のためのポイントは次の通りです。
- 各主体の「AIガバナンス・ゴール」を設定するかを検討する
- ゴールの設定が必要であると判断した場合、ゴールを設定する
- ゴールの設定が必要ではないと判断した場合でも、可能であれば、合理的な範囲でその事実を、理由とともにステークホルダーに公開する。
システムデザイン（AI マネジメントシステムの構築）
アジャイルガバナンスの「システムデザイン（AIマネジメントシステムの構築）」の実施のための行動目標としてAI事業者ガイドライン別添で挙げられるのが次の4つです。
- ゴール及び乖離の評価及び乖離対応の必須化
- AIマネジメントの人材のリテラシー向上
- 各主体間・部門間の協力による AI マネジメント強化
- 予防・早期対応による利用者のインシデント関連の負担軽減
ゴール及び乖離の評価及び乖離対応の必須化
「システムデザイン（AIマネジメントシステムの構築）」の実施のための行動目標として挙げられる1つめが「ゴール及び乖離の評価及び乖離対応の必須化」です。
AI事業者ガイドラインでは次のように記載されています。
行動目標 3-1【ゴール及び乖離の評価、並びに乖離対応の必須化】
各主体は、経営層のリーダーシップの下、各主体の AIの AIガバナンス・ゴールからの乖離を特定し、乖離により生じる影響を評価した上、リスクが認められる場合、その大きさ、範囲、発生頻度等を考慮して、その受容の合理性の有無を判定し、受容に合理性が認められない場合に AIの開発・提供・利用の在り方について再考を促すプロセスを、AIマネジメントシステム全体、及びAIシステム・サービスの設計段階、開発段階、利用開始前、利用開始後等の適切な段階に組み込むことが期待される。経営層は、再考プロセスについて基本方針等の方針策定、運営層はこのプロセスの具体化を行うことが重要である。そして、AIガバナンス・ゴールとの乖離評価には対象とする AIの開発・提供・利用に直接関わっていない者が加わるようにすることが期待される。なお、乖離があることのみを理由として AIの開発・提供・利用を恣意的に不可とする対応は適当ではない。そのため、乖離評価はリスクを評価するためのステップであり、改善のためのきっかけにすぎない。
引用：AI事業者ガイドライン別添
実践のためのポイントは次の通りです。
- 現状の AIシステム・サービス及び「AIガバナンス・ゴール」からどのくらいの乖離しているのか特定し評価する
- AIシステム・サービスの利用によりリスクが認められる場合、その受容の合理性の有無を判定する
- 受容に合理性が認められない場合、開発・提供・利用の在り方を再考し、再考するためのプロセスの開発・提供・利用の適切な段階及び各主体内の組織における意思決定プロセスに組み込む
- これらの行動について経営層がリーダーシップを取って、その意思決定に責任を持ち、運営層が具体化した上で、継続的に実施する。
- 各主体内での認識の醸成を行うため、決定した乖離評価項目を各主体内で共有する
AIマネジメントの人材のリテラシー向上
「システムデザイン（AIマネジメントシステムの構築）」の実施のための行動目標として挙げられる2つめが「AIマネジメントの人材のリテラシー向上」です。
AI事業者ガイドラインでは次のように記載されています。
行動目標 3-2【AIマネジメントシステムの人材リテラシー向上】
各主体は、経営層のリーダーシップの下、AIマネジメントシステムを適切に運営するために、外部の教材の活用も検討し、AIリテラシーを戦略的に向上させることが期待される。例えば、AIシステム・サービスの法的・倫理的側面に責任を負う役員、マネジメントチーム、担当者には、AI倫理及び AIの信頼性に関する一般的なリテラシー向上のための教育を、AIシステム・サービスの開発・提供・利用プロジェクトの担当者には AI倫理だけではなく生成 AIを含む AI技術に関する研修を、全者に対して AIマネジメントシステムの位置づけ及び重要性についての教育を提供することが考えられる。
引用：AI事業者ガイドライン別添
実践のためのポイントとしては次のものが挙げられます。
- 役職及び担当に適した研修及び教材を用い、AIリテラシーの向上を図る
- 各者の果たすべき役割に応じて適した研修及び教材の活用する
- 特に重要となる AI倫理については全社員に受講させる等の工夫をする
各主体間・部門間の協力による AIマネジメント強化
「システムデザイン（AIマネジメントシステムの構築）」の実施のための行動目標として挙げられる3つめが「各主体間・部門間の協力による AIマネジメント強化」です。
AI事業者ガイドラインでは次のように記載されています。
行動目標 3-3【各主体間・部門間の協力による AIマネジメント強化】
各主体は、学習等に使用するデータセットの準備から AIシステム・サービスの開発・提供・利用までの全てを自部門で行う場合を除き、経営層のリーダーシップの下、営業秘密等に留意しつつ、自社又は自部門のみでは十分に実施できない AIシステム・サービスの運用上の課題及び当該課題の解決に必要な情報を明確にし、公正競争確保の下で、可能かつ合理的な範囲で共有することが期待される。その際に、必要な情報交換が円滑に行われるよう、各主体間で予め情報の開示範囲について合意し、秘密保持契約の締結等を検討することが期待される。
引用：AI事業者ガイドライン別添
実践のためのポイントとしては次のものが挙げられます。
- 各主体のみでは解決できない AIシステム・サービスの運用上の課題及び解決に必要な情報の特定する
- 各主体間で、知的財産権及びプライバシー等に留意しつつ、可能かつ合理的な範囲での共有する
※これらは、各種法令・規制、各主体の AIポリシー、営業秘密、限定提供データ等、公正競争確保が前提となるので注意しましょう。
予防・早期対応による利用者のインシデント関連の負担軽減
「システムデザイン（AIマネジメントシステムの構築）」の実施のための行動目標として挙げられる4つめが「予防・早期対応による利用者のインシデント関連の負担軽減」です。
AI事業者ガイドラインでは次のように記載されています。
行動目標 3-4【予防・早期対応による AI利用者及び業務外利用者のインシデント関連の負担軽減】
各主体は、経営層のリーダーシップの下、インシデントの予防及び早期対応を通じて AI利用者及び業務外利 用者のインシデント関連の負担を軽減することが期待される。
引用：AI事業者ガイドライン別添
- システム障害、情報漏洩、クレームの発生等のインシデントを予防し、発生した場合には早期に対応する
- インシデント予防と早期対応のための体制を構築する
運用
アジャイルガバナンスの「運用」の実施のための行動目標としてAI事業者ガイドライン別添で挙げられるのが次の3つです。
- AIマネジメントシステム運用状況の説明可能な状態の確保
- 個々の AIシステム運用状況の説明可能な状態の確保
- AIガバナンスの実践状況の積極的な開示の検討
AI マネジメントシステム運用状況の説明可能な状態の確保
「運用」の実施のための行動目標として挙げられる1つめが「AIマネジメントシステム運用状況の説明可能な状態の確保」です。
AI事業者ガイドラインでは次のように記載されています。
行動目標 4-1【AIマネジメントシステム運用状況の説明可能な状態の確保】
各主体は、経営層のリーダーシップの下、例えば、行動目標 3-1 の乖離評価プロセスの実施状況について記録する等、AIマネジメントシステムの運用状況について関連するステークホルダーに対する透明性、アカウンタビリティを果たすことが期待される。
引用：AI事業者ガイドライン別添
運用のポイントとして、適切かつ合理的な範囲で、AIマネジメントシステムの運用状況について関連するステークホルダーに対して説明可能な状況にすることが挙げられます。
個々の AIシステム運用状況の説明可能な状態の確保
「運用」の実施のための行動目標として挙げられる2つめが「AIマネジメントシステム運用状況の説明可能な状態の確保」です。
AI事業者ガイドラインでは次のように記載されています。
行動目標 4-2【個々の AIシステム運用状況の説明可能な状態の確保】
各主体は、経営層のリーダーシップの下、個々の AIシステム・サービスの仮運用及び本格運用における乖離評価を継続的に実施するために、仮運用及び本格運用の状況をモニタリングし、PDCA を回しながら、結果を記録することが期待される。AIシステムを開発する主体は、AI システムを提供・利用する主体による当該モニタリングを支援することが期待される。
引用：AI事業者ガイドライン別添
実践のポイントは次の通りです。
- 各主体の AIの運用の状況をモニタリングし、PDCA を回しながら、結果を記録する。
- 各主体が単独で対応することが難しい場合には、各主体間で連携する。
AI ガバナンスの実践状況の積極的な開示の検討
「運用」の実施のための行動目標として挙げられる3つめが「AIマネジメントシステム運用状況の説明可能な状態の確保AIガバナンスの実践状況の積極的な開示の検討」です。
AI事業者ガイドラインでは次のように記載されています。
行動目標 4-3【AIガバナンスの実践状況の積極的な開示の検討】
各主体は、AIガバナンス・ゴールの設定、AIマネジメントシステムの整備及び運用等に関する情報を、コーポレートガバナンス・コードの非財務情報に位置づけ、開示することを検討することが期待される。上場企業以外であっても、AIガバナンスに関する活動の情報を開示することを検討することが期待される。そして、検討の結果、開示しないという事実をその理由とともにステークホルダーに公開することが期待される。
引用：AI事業者ガイドライン別添
実践のためのポイントは次のとおりです。
- 自社の AIに対する基本的な考え方から、AIマネジメントシステムの整備・運用等まで、AIガバナンスに関する情報の透明性の確保を検討する。
- AIガバナンスに関する情報を開示する場合には、コーポレートガバナンス・コードの非財務情報に位置づけることを検討する
- AIガバナンスに関する情報を開示しない場合には、その事実を理由とともにステークホルダーに公開する
評価
アジャイルガバナンスの「評価」の実施のための行動目標としてAI事業者ガイドライン別添で挙げられるのが次の2つです。
- AIマネジメントシステムの機能の検証
- 社外ステークホルダーの意見の検討
AIマネジメントシステムの機能の検証
「評価」の実施のための行動目標として挙げられる1つめが「AIマネジメントシステムの機能の検証」です。
AI事業者ガイドラインでは次のように記載されています。
行動目標 5-1【AIマネジメントシステムの機能の検証】：
各主体は、経営層のリーダーシップの下、AIマネジメントシステムの設計及び運用から独立した関連する専門性を有する者に、AIガバナンス・ゴールに照らして、乖離評価プロセス等の AIマネジメントシステムが適切に設計され、適切に運用されているか否か、つまり行動目標 3、4 の実践を通じ、AIガバナンス・ゴールの達成に向けて、AIマネジメントシステムが適切に機能しているか否かの評価及び継続的改善を求めることが期待される。
引用：AI事業者ガイドライン
実践のためのポイントは次の通りです。
- 継続的改善に向けた評価の重点ポイントを、経営層が自らの言葉で明示する
- AIマネジメントシステムの設計及び運用から独立した関連する専門性を有する者を割り当てる
- AIマネジメントシステムが適切に機能しているか否かをモニタリングする
- モニタリングの結果をもとに、継続的な改善を実施
社外ステークホルダーの意見の検討
「評価」の実施のための行動目標として挙げられる2つめが「社外ステークホルダーの意見の検討」です。
AI事業者ガイドラインでは次のように記載されています。
行動目標 5-2【ステークホルダーの意見の検討】：
各主体は、経営層のリーダーシップの下、ステークホルダーから、AIマネジメントシステム及びその運用に対する意見を求めることを検討することが期待される。そして、検討の結果、当該意見の内容を実施しないと判断した場合には、その理由をステークホルダーに説明することが期待される。
引用：AI事業者ガイドライン別添
実践のポイントとしては次の通りです。
- ステークホルダーから、AIマネジメントシステム及びその運用に対する意見を求めることを検討する
- 当該意見の内容を実施しない場合、その理由をステークホルダーに説明する
環境・リスクの再分析
アジャイルガバナンスの「環境・リスクの再分析」の実施のための行動目標として挙げられるのが「行動目標1-1～1-3の適時の再実施」です。
AI事業者ガイドラインでは次のように記載されています。
行動目標 6-1【行動目標 1-1～1-3 の適時の再実施】：
各主体は、経営層のリーダーシップの下、行動目標 1-1 から 1-3 について、新技術の出現、規制等の社会的制度の変更等の外部環境の変化を迅速に把握し、適時に再評価、理解の更新、新たな視点の獲得等を行い、それを踏まえた AIシステムの改良ないし再構築、運用の改善を行うことが期待される。なお、行動目標 5-2を実施する際に、既存の AIマネジメントシステム及びその運用だけではなく、環境・リスク分析を含め、本指針でも重視しているアジャイル・ガバナンスに即した AIガバナンス全体の見直しに向けた外部からの意見を得ることも検討することが期待される。
引用：AI事業者ガイドライン別添
実践のためのポイントには次のものが挙げられます。
- 新技術の出現、AIに関連した技術革新、規制等の社会的制度の変更等の外部環境の変化を把握する
- 適時に再評価、理解の更新、新たな視点の獲得等を行い、それに即した AI システムの改善、再構築、運用の変更等を行う
- AIガバナンスの考え方を組織の文化として根付かせる
AIガバナンス構築をする際の注意点
以上が「AI事業者ガイドライン」に基づくアジャイルガバナンスという手法に基づくAIガバナンスの具体的な方法です。
もっとも、これらはAI事業者すべてに共通するものとして作成されており、自社が開発・提供・利用のどの事業形態に該当するか、どのようなAIシステム・サービスを提供しているかなどによって個々に考える必要があります。
自社にどのような組織・体制が必要か、どのような行動や文書化が必要かはケースによって異なる上に、これが将来的などのような事業上のメリットとデメリット回避につながるかを見据えて行う必要があります。
ほかにも、AIビジネスにはさまざまな法的リスクが潜んでいます。そのため、対策を講じる最初の段階から弁護士のサポートを得ておくことをおすすめします。
まとめ：AI事業者ガイドラインへの最適化は弁護士に
本記事では、AI事業者ガイドラインに沿ったAIガバナンスの構築について解説しました。
AIガバナンスの方法についてはAI事業者ガイドラインに詳細に規定があり、経営者はガバナンスの一環として社内で組織を作ったり、書面の作成をしたりする必要があります。
変化のスピードが早いAIビジネスにおいて、まだできたばかりでかつ複雑なガイドラインへの最適化は困難を極めます。早い段階からAIをはじめとするIT分野と法律の両方に精通した専門家のアドバイスを受けつつ、自社にとって最適なAIガバナンスを構築していくことをおすすめします。
当事務所による対策のご案内
モノリス法律事務所は、IT、特にインターネットと法律の両面に豊富な経験を有する法律事務所です。
AIビジネスには多くの法的リスクが伴い、AIに関する法的問題に精通した弁護士のサポートが必要不可欠です。当事務所は、AIに精通した弁護士とエンジニア等のチームで、ChatGPTを含むAIビジネスに対して、契約書作成、ビジネスモデルの適法性検討、知的財産権の保護、プライバシー対応など、高度な法的サポートを提供しています。下記記事にて詳細を記載しております。
モノリス法律事務所の取扱分野：AI（ChatGPT等）法務
カテゴリー: IT・ベンチャーの企業法務
