当前AI监管法律的现状是什么?解析日本与欧盟的比较及对策要点

像ChatGPT这样的生成AI已经成为了一个巨大的热潮。现在，被引入商业场景的生成AI被称为“第四次AI热潮”的引爆者。与此同时，全球范围内也在推进制定法律框架以规范AI。

本文将讨论与AI相关的法律，包括知识产权、个人信息等机密信息的适当处理等内容。

AI（人工智能）的定义与历史

AI（artificial intelligence，人工智能）在法律上没有一个严格的定义，存在多种不同的定义。以下是其中的一些例子。

AI被认为是在计算机上复现人类智能能力的各种技术、软件群、计算机系统和算法。

作为主要的专业化AI，可以列举以下几种：

• 自然语言处理（机器翻译、句法分析、形态素分析、RNN等）
• 模仿专家的推理和判断的专家系统
• 从数据中检测和提取特定模式的图像识别、语音识别等

AI（人工智能）领域自20世纪50年代计算机的黎明期以来，一直在进行研究开发，第一次AI热潮持续到1970年代，主要研究“搜索与推理”，第二次AI热潮发生在1980年代，以“知识表示”研究为主，诞生了专家系统，形成了两次热潮的高潮。

进入21世纪后，随着大数据的出现，2012年以后随着Alexnet的出现，图像处理中深度学习（深层学习）的有效性得到了全球认可，研究迅速活跃起来，第三次AI热潮随之到来。

从2016年到2017年，引入了深度学习（深层学习）和强化学习（Q学习、策略梯度法）的AI相继出现。

第三次AI热潮的主要革命在于自然语言处理、通过传感器进行的图像处理等视觉方面，但也对技术开发、社会学、伦理学、经济学等领域产生了重大影响。

2022年11月30日，OpenAI推出的自然语言处理生成AI——ChatGPT作为万能工具受到广泛关注，生成型AI业务变得活跃。有人将这一社会现象称为第四次AI热潮。

应检查AI相关法律的商业场景 

生成AI作为AI的一种，虽然是一个有用的工具，但同时也可能传播错误信息、助长犯罪，甚至有时候可能威胁到民主制度，这些风险不容忽视。

如今，这些AI所带来的风险已成为不可避免的挑战。因此，本文将从用户和提供者的角度，解释在哪些商业场景中需要检查法律规制。

使用文本生成AI

自从2022年11月ChatGPT推出以来，文本生成AI因能够处理复杂的请求而被全球视为提高工作效率和成本效益的万能工具。

然而，使用文本生成AI也带来了已知的风险。为了避免这些潜在的风险，我们必须注意哪些风险存在以及必须遵守哪些法律。

以ChatGPT为代表的文本生成AI存在一个风险，如果不采取任何措施，用户输入的信息（提示）可能会泄露。由于ChatGPT具有收集、保存和使用提示的功能，因此可能会泄露个人信息、企业机密信息以及通过签订保密协议（NDA）获得的机密信息等敏感信息。

此外，ChatGPT还可能产生特有的风险，如生成并传播错误信息（幻觉）、侵犯版权等。因此，对输出内容进行事实核查是必不可少的。

使用图像生成AI

在商业中使用图像生成AI时，必须考虑到存在侵犯版权的风险。

根据OpenAI的说法，由ChatGPT等生成的图像或文本的版权基本上归生成用户所有。用户可以出于任何目的（包括商业用途）使用ChatGPT等。

但是，在使用时需要注意以下几点：

ChatGPT的学习数据包含了大量公开于互联网上的内容，这些内容大多是版权作品（文本、图像、音乐、视频等）。因此，生成的内容可能会侵犯他人的版权。

AI开发与提供生成AI服务

AI业务涉及多种法律，全球范围内也在逐步建立法律框架，因此，在遵守现有法律的同时，也需要灵活适应新法律。

下一章将解释日本关于AI的法律以及2023年12月制定的世界首个国际性的欧盟《AI法规》。

日本的AI相关法律

当前，在日本，AI并未受到具有强制力的法律规制，而是采取自主规制的政策。本文将解释在利用AI时需要注意的现行法律。

参考：经济产业省｜「AI原则实践的治理指南 ver. 1.1」[ja]

著作权法

在2019年（平成31年）1月实施的「修正著作权法」中，新增了“信息分析”（该法第30条之4的1项2号）作为权利限制规定（无需许可的例外规定）。在AI开发或学习阶段进行的信息分析等，不以享受著作物所表达的思想或情感为目的的使用行为，原则上可以不经著作权人许可进行。

这一修正通过设立“信息分析”的定义，明确了包括AI的深度学习在内的机器学习也属于“信息分析”的范畴。

信息分析（指从大量著作物或其他大量信息中提取构成该信息的语言、音频、影像或其他元素的信息，并进行比较、分类或其他分析的行为）的使用情形

著作权法第30条之4的1项2号

另一方面，需要注意的是，如果使用AI生成的作品与他人的著作物存在相似性或依赖性，可能会构成著作权侵犯。

此外，如果将著作物作为ChatGPT的提示输入，则可能侵犯复制权等权利。使用生成型AI修改他人著作物的行为，也可能侵犯改编权等权利。

根据OpenAI的使用条款，通过ChatGPT创建的内容权利归用户所有，商业使用也是可行的，但如果内容是否构成著作权侵犯难以判断时，建议咨询专家。

如果不幸被著作权人指控侵犯著作权，可能会面临民事责任（停止使用、赔偿损失、赔偿精神损害、恢复名誉等法律措施）或刑事责任。

不正当竞争防止法

2019年（平成31年）7月1日，修正不正当竞争防止法实施。之前，对于不属于专利法或著作权法保护对象的事物，或不符合不正当竞争防止法“商业秘密”的事物，防止不正当竞争是困难的。

因此，这次修正规定了对一定价值的数据（限定提供数据）的不正当获取行为或不正当使用行为等恶意行为的民事措施（停止请求权、损害赔偿额的推定等）。

欧盟AI使用相关法律

欧盟的法律体系由三部分构成：一次法（条约）、二次法（欧盟立法）和判例。二次法是基于一次法（条约）制定的，直接或间接约束成员国的法律，被称为欧盟法（派生法）。二次法大致分为五类，而欧盟的“AI规制法”属于规则（Regulation），因此是直接约束欧盟成员国的统一规则。

另一方面，指令（Directive）要求欧盟各成员国根据指令（Directive）的内容，新制定或修改国内法，承担间接的法律义务。通常，期限定为欧盟官方公报发布后的3年内。

相关文章：拓展欧洲业务的企业必看 欧盟的法律与法律体系要点解析[ja]

本章将解析欧盟AI使用相关法律规制中的“指令”和“规则”的最新动态。

AI责任指令草案

2022年9月28日，欧洲委员会公布了“AI责任指令草案”以及“产品责任指令”的修正案。这些草案为符合“AI法规”的欧盟（EU）内AI业务的法律责任设定了规则，成为重要的法律框架。由于将从2023年6月开始适用的EU“集体诉讼指令”涵盖了这些规定，相关的日本企业也需要了解其内容。

在数字时代的循环经济和全球价值链中，这些草案大幅修改了关于EU内AI系统及其他软件的民事责任法律规则，以适应这些新环境。

相关文章：EU当前的AI法规状况及展望？也解析对日本企业的影响[ja]

“AI责任指令草案”的目的在于，为AI系统引起的损害设定基于合同外原因的民事责任规则，以提升EU内部市场的功能。

这意味着，不仅限于因安全性不足而适用的“产品责任指令”所涵盖的责任（如违约责任和合同不符责任），还包括因疏忽责任（如侵权责任等）引起的损害，这一点需要特别注意。

例如，由AI招聘系统引起的歧视等损害也被视为包含在内。

该指令草案为了解决AI的“黑箱”问题，对开发了“AI法规”中规定的“高风险AI系统”的企业减轻了举证负担，并新设了“因果关系推定”和“证据披露制度”。

如果不遵守证据披露命令，“AI责任指令草案”将视为违反注意义务并推定因果关系；对于“产品责任指令修正案”，则将推定存在缺陷和因果关系，并对不遵命的行为施加比日本民事诉讼法更严厉的处罚。

该指令草案在第一阶段限于AI的黑箱问题及随之而来的“举证负担减轻措施”，新设了原告资格、证据披露、证据保全、因果关系推定等要求，并对这些要求进行了规定。

第二阶段规定了审查和评估。欧洲委员会将设立监测程序，审查事件信息，并评估对高风险AI系统企业施加无过错责任（严格责任）的适当性以及引入强制保险的必要性等进一步措施，并向欧洲理事会和欧洲议会等报告。

制造物责任指令的修正案

所谓的“制造物责任指令”，是1985年（昭和60年）制定的一项保护消费者的欧盟法律，规定了因缺陷制造物给消费者造成损害时制造者的责任。

在修正案中，将“软件”作为新的适用对象加入到“制造物”中，如果作为软件一种的人工智能（AI）系统存在“缺陷”，则适用于AI系统经营者的无过错责任。并且，作为判断“缺陷”是否存在的标准，新增了安装后的持续学习能力和软件更新。

在日本现行的“日本制造物责任法”中，一般不将软件视为动产，因此不被认为是法律适用的“制造物”。但是，修正案对“制造物”的概念进行了改变。该修正案还引入了“减轻举证负担的措施”，可能对AI系统和先进技术产品等软件产生重大影响。

AI监管法

“AI监管法（AI Act）”是一项针对AI业务的全面欧盟统一规则（二级法律），包含85条，是世界上首个国际性的AI监管法律。该法律于2023年12月9日（令和5年）经过欧洲委员会、欧洲议会和欧洲理事会的临时协议后制定，并预计将于2024年生效并全面实施。

该法律是欧盟“适合数字时代的欧洲”数字战略的核心法律，旨在应对不断发展的数字时代带来的新挑战和风险。它是一个旨在确保AI的安全性和基本权利，加强整个欧盟对AI的参与、投资和创新的广泛AI套件的一部分。

欧盟的“AI监管法”将直接适用于欧盟成员国，并且在欧盟境内开展业务时也将适用跨境规定，适用于海外的企业。

违反规定时，将面临基于全球销售额的巨额罚款（最高可达3000万欧元=约47亿日元或全球销售额的6%的较高者为上限），也可能导致无法在欧盟范围内从事AI业务。

因此，包括日本在内的已经在欧盟市场引入AI的企业，以及未来考虑进入欧盟市场的企业，也需要采取符合欧盟新AI监管的措施。

“AI监管法”的框架主要由三个特点构成：“基于风险的AI分类”、“要求和义务”以及“创新支持”。

受监管的对象是针对欧洲市场推出AI系统和服务的企业，包括AI的开发者、部署者、提供者、进口商、销售商和用户。

AI的风险等级将被分为四个级别，并将根据这些级别应用相应的监管措施。为了实现AI原则，确保AI开发者、用户和提供者的AI素养措施也是必不可少的。详情请参阅相关文章。

相关文章：欧盟的AI监管法现状和展望？也解析对日本企业的影响[ja]

关于AI相关法律的注意点

本章主要解析企业在使用生成型AI时，应在法律上注意的几个要点。

关于AI创作物的著作权

关于由生成型AI创造的作品，需要注意以下法律论点：

• 该作品是否侵犯了著作权
• 生成型AI创造的作品是否可以被认定为著作权

如前所述，如果ChatGPT生成的作品与现有著作物具有相似性或依赖性，可能会构成著作权侵犯。那么，由生成型AI创造的作品能否被认定为著作权呢？

根据著作权法，「著作物」被定义为「以创造性表达思想或情感的作品」。由于AI不具备思想或情感，因此有观点认为，生成型AI创造的内容不应被认定为著作权。然而，由于AI生成内容的过程对用户来说是一个黑箱（判断过程不透明），让AI按照用户的期望输出内容是非常困难的。因此，如果在提示（prompt）阶段用户的创意被认为是存在的，那么可以认为是用户自己的「思想或情感」通过生成型AI「创造性地表达」了，这种情况下可能会被认定为著作权。

关于使用AI时处理个人信息的注意事项

在使用AI时，需要注意可能会违反个人信息保护法的风险。需要采取措施，如不输入个人信息或隐私相关信息等。

如果在提示中输入了个人信息，可能会构成向服务提供商提供个人信息的第三方提供行为。原则上，向第三方提供个人信息需要本人同意，如果没有本人同意，可能会违反个人信息保护法。

在ChatGPT中，即使不小心输入了个人信息，也有机制不会在聊天中输出这些信息。这是因为OpenAI的政策是不保存或追踪个人信息，但在其他服务或平台中可能有所不同，因此需要特别注意。

企业涉足AI时的风险对策

风险对策因企业的商业战略、AI的使用目的以及相关法规的不同而异，因此，根据情况和目的采取适当的风险对策至关重要。

利用生成AI的企业要最小化风险，应考虑以下几点：

1. 人才培养：正确使用生成AI需要专业知识和技能。通过员工教育和培训，让他们理解正确的使用方法是非常重要的。
2. 制定、引入和执行内部指导方针：制定关于使用生成AI的内部指导方针，并要求员工遵守，可以减少风险。
3. 建立推进利用和风险对策的组织：建立一个推进生成AI利用的组织，并在组织内部配置负责风险管理的团队是有效的。
4. 系统引入：为了正确引入生成AI，需要谨慎选择和设计系统。

此外，使用生成AI伴随的风险是多样化的，包括信息泄露、权利和隐私侵犯、信息的准确性和安全性的担忧、偏见风险等。为了避免这些风险，引入适当的治理和风险管理框架是必不可少的。

相关文章：「ChatGPT在企业引入时的风险及其机密信息泄露的案例和对策解析」[ja]

总结：由于AI法律仍在发展中，需要紧跟其步伐

关于AI业务的法律，从欧盟开始制定的世界首个国际性“AI规制法”（2023年12月9日制定）来看，法律框架的建设正处于推进阶段，因此，企业需要在遵守现有法律的同时，也要灵活应对新的法律。

在日本，虽然还没有直接针对AI进行规制的法律，但是需要深入理解与之相关的著作权法、个人信息保护法、不正当竞争防止法等相关法律，并做出适当的应对。此外，还需要密切关注相关法律未来修正的动向，并迅速做出反应。

我所采取的措施介绍

Monolith法律事务所是一家在IT领域，尤其是互联网和法律方面拥有丰富经验的法律事务所。AI业务伴随着许多法律风险，因此，获得精通AI相关法律问题的律师支持是至关重要的。

我们的事务所拥有一支由精通AI的律师和工程师等组成的团队，为包括ChatGPT在内的AI业务提供高级法律支持，包括合同书的撰写、业务模型的合法性审查、知识产权保护、隐私处理等。详细内容请参见下文。

Monolith法律事务所的业务范围：AI（包括ChatGPT等）法务[ja]