AIを規制する法律の現状は？日本とEUの比較と対策ポイントを解説

ChatGPTなどの生成AIが大きなブームになっています。今やビジネスシーンにも取り入れられるようになった生成AIは「第4次AIブーム」の火付け役ともいわれています。それに合わせて世界的にAIを規制する法的枠組みの整備も進められています。

本記事では、AIにまつわる法律を取り上げ、知的財産権・個人情報などの秘匿情報の適切な取扱いなどについて解説します。

AI（人工知能）の定義と歴史

AI（artificial intelligence）とは、「人工知能」のことです。法的には厳密な定義はなく、さまざまな定義がされています。以下はその一例です。

AIは、人間の知的能力をコンピュータ上で再現する、さまざまな技術・ソフトウェア群・コンピュータシステム・アルゴリズムとも言われます。

主力な特化型AIとしては、以下のものが挙げられます。

• 自然言語処理（機械翻訳・構文解析・形態素解析・RNN等）
• 専門家の推論・判断を模倣するエキスパートシステム
• データから特定のパターンを検出・抽出する画像認識・音声認識等

AI（人工知能）という分野は、コンピュータの黎明期であった1950年代から研究開発が行われ続けており、第1次AIブームは1970年代まで「探索と推論」の研究、第2次AIブームは1980年代の「知識表現」の研究によりエキスパートシステムが誕生し、2回のパラダイムでブームが起きました。

2000年代に入ってからビッグデータが登場し、2012年以降Alexnetの登場で画像処理におけるディープラーニング（深層学習）の有用性が世界的に認知され、急速に研究が活発となり、第3次AIブームが到来しました。

2016年から2017年にかけて、ディープラーニング（深層学習）と強化学習（Q学習・方策勾配法）を導入したAIが登場しました。

第3次AIブームの主な革命は、自然言語処理・センサーによる画像処理など視覚面が顕著ですが、技術開発・社会学・倫理学・経済学などの分野にも大きな影響を及ぼしています。

2022年11月30日に、OpenAIからローンチされた自然言語処理生成AIであるChatGPTが万能ツールとして注目を集めたことで、生成系AIビジネスが盛んになりました。この社会現象を第4次AIブームと呼ぶ人もいます。

AIに関する法律を確認すべきビジネスシーン 

AIの一種である生成AIは有用なツールである一方、誤情報の拡散や犯罪を助長したり、ときには民主主義を脅かすほどのリスクをはらんでいます。

こうしたAIの持つリスク要素は、今では避けて通れない課題となっています。そこで、法規制を確認すべきビジネスシーンについて、ユーザー側とプロバイダーの立場から解説します。

文章生成AIの利用

2022年11月に「ChatGPT」がローンチされて以来、文章生成AIは複雑な依頼に対応できることから、仕事の効率化と高いコストパフォーマンスを期待できる万能ツールとして世界的に脚光を浴びました。

その一方で、文章生成AIの利用に伴うリスクも知られるようになりました。このような潜在的なリスクを回避する上で、どのようなリスクがあり、どの法律を遵守しなければいけないのか留意しなければなりません。

文章生成AIを代表するChatGPTには、何も対策を講じなければユーザーが入力した情報（プロンプト）が漏洩するリスクがあります。ChatGPTにはプロンプトを収集・保存・利用する機能があることから、個人情報や企業の機密情報、秘密保持契約（NDA）などを締結して取得した秘密情報などの秘匿情報が漏洩するリスクがあります。

また、このほかにもChatGPT特有の誤情報を生成（ハルシネーション）し拡散するリスク、著作権侵害などのリスクなどをはらんでいます。そのため、アウトプットされたものに対するファクトチェックが欠かせません。

画像生成AIの利用

画像生成AIをビジネスで活用する場合、著作権侵害のリスクがあることを念頭に置かなければなりません。

ChatGPT等によって生成された画像や文章の著作権は、基本的には生成したユーザーが有します。OpenAIによれば、ユーザーはあらゆる目的（商業利用も含む）においてChatGPT等を利用可能です。

ただし、利用に際しては以下の点に注意が必要です。

ChatGPTの学習データには、インターネット上に公開されている大量のコンテンツが含まれており、これらのコンテンツのほとんどは著作物です（テキスト・画像・音楽・動画など）。そのため、生成されたコンテンツが、他者の著作権を侵害してしまう可能性があります。

AI開発・生成AIサービスの提供

AIビジネスにはさまざまな法律が関係しており、世界的にも法的枠組みの整備が進められている段階であるため、既存の法律を遵守しつつ新たな法律に柔軟に対応する姿勢が求められます。

次章では、日本のAIにまつわる法律と、2023年12月に制定された世界初の国際的なEU「AI規制法」について解説します。

日本のAIに関する法律

現在日本では、AIは、強制力を伴う法律による規制はされておらず、自主規制で対応する方針を採っています。ここでは、AIを活用する上で注意すべき現行の法律について解説します。

参考：経済産業省｜「AI原則実践のためのガバナンス・ガイドライン ver. 1.1」

著作権法

平成31年（2019年）1月に施行された「改正著作権法」では、権利制限規定（許諾が不要な例外規定）に「情報解析」（同法第30条の4の1項2号）が新設されました。AI開発や学習段階における情報解析など、著作物に表現された思想又は感情の享受を目的としない利用行為は、原則著作権者の許諾なく行うことが可能とされています。

この改正により「情報解析」の定義が設けられたことで、AIのディープラーニングを含む機械学習も「情報解析」に含まれることが明確になりました。

情報解析（多数の著作物その他の大量の情報から、当該情報を構成する言語、音、影像その他の要素に係る情報を抽出し、比較、分類その他の解析を行うことをいう）の用に供する場合

著作権法第30条の4の1項2号

一方、AIを利用して生成された創作物に、他者の著作物との類似性や依拠性が認められる場合は、著作権侵害となることに注意が必要です。

また、著作物をChatGPTにプロンプトとして入力した場合は、複製権などの侵害となる可能性もあります。生成系AIを利用して他者の著作物を改変した場合は、翻案権などの侵害になる可能性もあります。

OpenAIの利用規約によると、ChatGPTで作成されたコンテンツの権利はユーザーに帰属し、商用利用も可能ですが、コンテンツが著作権侵害にあたるか判断が難しい場合には、専門家に相談することをおすすめします。

万が一、著作権者から著作権侵害を指摘された場合には、民事責任（使用差止め・損害賠償・慰謝料・名誉回復などの法的措置）や刑事責任を問われる可能性があります。

不正競争防止法

平成31年（2019年）7月1日、改正不正競争防止法が施行されました。以前までは、特許法や著作権法の保護対象とはならないもの、あるいは不正競争防止法の「営業秘密」に該当しないものは、不正競争の防止が困難でした。

そこで、この改正では、一定の価値あるデータ（限定提供データ）の不正取得行為や不正使用行為等、悪質な行為に対する民事措置（差止請求権・損害賠償額の推定等）が規定されました。

EUのAI利用に関する法律

EUの法体系は、一次法（条約）・二次法（EU立法）・判例の3部から構成されています。二次法とは一次法（条約）を根拠に制定され、EU域内で直接・間接的に加盟国を拘束する法令で、EU法（派生法）と呼ばれています。二次法は大きく分けて5種類ありますが、EUの「AI規制法」は規則（Regulation）に該当するため、直接EU加盟国を拘束する統一ルールです。

一方、指令（Directive）とは、EU各加盟国が、指令（Directive）の内容を実施するために国内法を新たに法制化したり改正するなど、間接的な法的義務を負うものです。期日は、基本的にはEU官報掲載後3年以内となっています。

関連記事：欧州へ事業展開する企業必見 EUの法律・法体系について要点を解説

この章では、EUのAI利用に関わる法的規制のうち、「指令」と「規則」について最新の動向を解説します。

AI責任指令案

2022年9月28日欧州委員会は、「AI責任指令案」と共に、「製造物責任指令」の改正案を公表しました。「AI規制法」に適合した、EU（欧州連合）におけるAIビジネスの法的責任に関するルールを定めており、重要な法的枠組みとなります。2023年6月から適用されるEUの「集団訴訟指令」の対象となるため、関連する日本企業もその内容を把握しておく必要があるでしょう。

デジタル時代の循環型経済及びグローバル・バリューチェーンに適したものとする上で、EUにおけるAIシステムを始めとするソフトウェアに関する民事責任の法的ルールを大きく変更するものです。

関連記事：EUにおけるAI規制法の現状と展望は？日本企業への影響も解説

「AI責任指令案」の目的は、AIシステムに起因する損害に対して、契約外の事由に基づく民事責任についてのルールを定め、EU域内の市場機能を向上させることにあります。

つまり、契約上の責任（債務不履行責任・契約不適合責任）は適用対象ではなく「製造物責任指令」の適用対象となる安全性が不十分であることから発生するものに限定されない、過失責任による損害（不法行為責任など）が対象となることに留意する必要があります。

例えば、AIの採用システムによる差別などの損害も対象になるものと考えられます。

同指令案は、AIのブラックボックス問題に対処するために、「AI規制法」に規定されている「ハイリスクのAIシステム」を開発した事業者に対する立証負担の軽減措置を講じるもので、「因果関係の推定」と「証拠開示制度」が新設されました。

証拠開示命令に従わない場合、「AI責任指令案」については注意義務違反及び因果関係を推定し、「製造物責任指令改正案」については欠陥及び因果関係を推定することが義務付けられており、開示命令に従うよう、日本の民訴法よりも強力な罰則を課しています。

同指令案は、第1ステージとして、AIのブラックボックス化とそれに伴う「立証負担の軽減措置」に限定されており、原告適格・証拠開示・証拠保全・因果関係の推定が新設され、各要件が規定されています。

第2ステージは、レビュー及び評価について規定されています。欧州委員会にモニタリングプログラムが設置され、インシデント情報をレビューし、無過失責任（厳格責任）を高リスクAIシステムの事業者に課すことの適切性及び強制保険導入の必要性など更なる措置について評価し、欧州理事会や欧州議会等に対して報告をすることとされています。

製造物責任指令の改正案

「製造物責任指令」とは、1985年に制定された消費者を保護するEU法で、欠陥のある製造物によって消費者が損害を受けた場合の製造者の責任が規定されています。

改正案では、製造物責任の適用対象として新たに「ソフトウェア」が「製造物」に加えられ、ソフトウェアの一種であるAIシステムに「欠陥」があれば、AIシステムの事業者に無過失責任が適用されることになります。そして「欠陥」の有無の判断基準として、新たに、設置後の継続学習能力やソフトウェアアップデートが加えられています。

日本の現行法である「製造物責任法」では、一般にソフトウェアは動産とは見なされていないため、法の適用対象となる「製造物」に該当しないとされていますが、「製造物」の概念を変える対応をとっています。同改正案も、「立証負担の軽減措置」を導入し、AIシステムや先端技術製品などのソフトウェアにも大きな影響を与える可能性があります。

AI規制法

「AI規制法（AI Act）」とは、AIビジネスを対象とした包括的なEUの統一ルール（二次法）で、85条からなる世界初の国際的なAIを規制する法律です。2023年12月9日に、欧州委員会・欧州議会・欧州理事会の暫定合意に至り、制定されました。2024年に発効、全面施行されると見込まれています。

本法律は、「A Europe fit for the Digital Age（デジタル時代にふさわしいヨーロッパ）」として知られるEUのデジタル戦略の中核をなす法律で、進化するデジタル時代の新たな課題やリスクに対応しようとするものです。AIの安全性と基本的な権利を保証し、EU全体でのAIへの取り組み・投資・革新を強化することを目指す広範なAIパッケージの一部でもあります。

EUの「AI規制法」は、EU加盟国に直接適用されるとともに、EU域内で事業を展開する場合も越境適用となり、海外に所在する事業者にも適用されます。

違反時には、全世界売上ベースでの巨額な制裁金が課され（最大で3,000万ユーロ＝約47億円または全世界売上高の6%のうちいずれか高い方が上限）、EU圏内でAIビジネスができなくなるおそれもあります。

したがって、日本を含めEU市場で既にAIを導入している企業や、今後EU市場への進出を考えている企業も、EUの新たなAI規制に適合した対応が求められます。

「AI規制法」の骨子は、大きく分けると3つの特徴である「リスクベースでのAI分類」、「要求事項と義務」、「イノベーション支援」から成り立っています。

規制対象は、欧州市場をターゲットに AIシステム・サービスを投入する事業者で、AIの開発者・デプロイヤー・プロバイダー・輸入者・販売業者・ユーザーが該当します。

AIのリスクレベルを4段階にカテゴライズし、それに応じた規制が適用されることになります。AI原則の達成には、AI開発者・利用者・提供者のAIリテラシーを確保する措置も不可欠であるという指針が明確に示されています。詳しくは、関連記事をご覧ください。

関連記事：EUにおけるAI規制法の現状と展望は？日本企業への影響も解説

AIに関する法律で留意すべきポイント

この章では、主に生成AIを企業が利用しようとする場合に法律上留意すべきポイントについて解説します。

AI創作物の著作権について

生成系AIによって生成された創作物について留意すべきポイントとしては、以下の法的論点が考えられます。

• その創作物が著作権を侵害するものか否か
• 生成AIによって生成された創作物に著作権が認められるか 

前述のとおり、ChatGPTで生成された創作物に、著作物との類似性や依拠性が認められる場合は、著作権侵害となります。一方、生成系AIにより作成された創作物には、著作権が認められるのでしょうか？

著作権法によれば、「著作物」とは「思想又は感情を創作的に表現したもの」と定義されています。AIは思想又は感情を持たないので、生成AIが作成したコンテンツには著作権が認められないという考えもあります。

その一方で、AIによるコンテンツの生成過程はユーザーにとってブラックボックス（判断のプロセスが不透明）であるため、ユーザーがAIに期待通りのコンテンツを出力させることは至難の業といえます。そのためプロンプトの段階でユーザーの創意工夫があると認められるような場合には、ユーザー自身の「思想又は感情」を、生成系AIによって「創作的に表現した」といえ、著作権が認められる場合もあり得ると考えられます。

AI利用時の個人情報の取り扱いについて

AI利用時には、個人情報保護法に抵触する可能性があることに留意が必要です。個人情報やプライバシーに関する情報などを入力しない等の対策が必要になります。

プロンプトに個人情報が入力された場合、サービスプロバイダーに対する個人情報の第三者提供に該当する可能性があります。個人情報を第三者に提供するには、原則本人の同意が必要となりますので、本人の同意がない場合は、個人情報保護法違反となる可能性があります。

ChatGPTでは、万が一個人情報を入力してしまった場合でも、チャットに出力できない仕組みになっています。これは、ChatGPTは個人情報を保存または追跡しないというOpenAIの方針であり、他のサービスやプラットフォームでは異なる場合があるため、注意が必要です。

企業がAIに関わる際のリスク対策

リスク対策は、企業のビジネス戦略・AIの利用目的、そして関連する法規制により異なるため、状況と目的に合わせて適切なリスク対策を講じることが重要です。

生成AIを活用する企業がリスクを最小化するためには、以下のポイントを考慮すべきです。

1. 人材育成：生成AIの適切な利用には専門的な知識とスキルが必要です。従業員の教育とトレーニングを通じて、適切な利用方法を理解させることが重要です。
2. 社内ガイドラインの策定・導入・運用：生成AIの利用に関する社内ガイドラインを策定し、従業員に遵守させることで、リスクを軽減できます。
3. 活用やリスク対策のための推進組織の構築：生成AIの活用を推進する組織を設立し、リスク管理を担当するチームを組織内に配置することが有効です。
4. システム導入: 生成AIを適切に導入するために、システムの選定と設計を慎重に行う必要があります。

また、生成AIの利用に伴うリスクは多様化しており、情報漏洩、権利・プライバシーの侵害、情報の正確性・安全性への懸念、バイアスのリスクなどがあります。これらのリスクを回避するためには、適切なガバナンスとリスク管理の枠組みを導入することが不可欠です。

関連記事：「ChatGPTの企業導入におけるリスクとは。機密情報漏洩の事例や対策を解説」

まとめ：AIの法律は整備途上のためキャッチアップが必要

AIビジネスに関する法律は、EUにおける世界初の国際的な「AI規制法」（2023年12月9日制定）を始め、法的枠組みの整備が進められている段階であるため、企業には既存の法律を遵守しつつ新たな法律に柔軟に対応する姿勢が求められます。

日本では、直接的にAIを規制する法律はまだありませんが、著作権法、個人情報保護法、不正競争防止法などの関連法令をよく理解し、適切に対応する必要があります。また、関連する法令の今後の改正の動向を注視し、迅速に対応することが必要です。

当事務所による対策のご案内

モノリス法律事務所は、IT、特にインターネットと法律の両面に豊富な経験を有する法律事務所です。AIビジネスには多くの法的リスクが伴い、AIに関する法的問題に精通した弁護士のサポートが必要不可欠です。

当事務所は、AIに精通した弁護士とエンジニア等のチームで、ChatGPTを含むAIビジネスに対して、契約書作成、ビジネスモデルの適法性検討、知的財産権の保護、プライバシー対応など、高度な法的サポートを提供しています。下記記事にて詳細を記載しております。

モノリス法律事務所の取扱分野：AI（ChatGPT等）法務