【快讯】日本个人信息保护委员会对使用ChatGPT的警告

以ChatGPT为首的生成AI服务在我国正在迅速普及。然而，在使用这些服务时，已经指出了关于个人信息处理的问题。

为了应对这个问题，日本个人信息保护委员会（Japanese Personal Information Protection Commission）在令和5年（2023年）6月2日发布了关于使用生成AI服务的警告。本文将为提供生成AI服务的企业解释这些警告的内容。

迅速普及的「ChatGPT」等生成AI服务

目前，在我们的国家，生成AI服务（根据问题和工作指示（提示输入）等生成文本和图像的AI服务）正在迅速普及。这些服务在商业、娱乐等各个领域都得到了应用，其潜力无法估量。

然而，另一方面，使用ChatGPT等生成AI服务时，已经指出了关于个人信息处理的问题。例如，是否使用ChatGPT等提供生成AI服务的公司已经适当管理了从用户那里收集的个人信息，这已经成为了一个问题。

个人信息保护委员会对OpenAI的警告概述

考虑到这种情况，个人信息保护委员会对生成AI服务的使用发出了警告。具体来说，对开发和提供生成AI服务ChatGPT的OpenAI, L.L.C.和OpenAI OpCo, LLC发出了警告。

参考：个人信息保护委员会｜关于生成AI服务使用的警告等（令和5年（2023年）6月2日）[ja]

个人信息保护委员会要求OpenAI在未获得本人同意的情况下，不得获取ChatGPT的用户和非用户的敏感个人信息。

“敏感个人信息”是指需要特别注意处理的一些个人信息，以防对本人产生不公平的歧视、偏见或其他不利影响。这包括种族、信仰、社会地位、病史、犯罪记录、受犯罪侵害的事实等。

在这次警告中，问题在于OpenAI提供的ChatGPT是否正确管理了从用户那里收集的个人信息。个人信息保护委员会要求OpenAI改善对从用户那里收集的个人信息的处理方式。

对使用ChatGPT服务的企业的警告

同时，个人信息保护委员会也对个人信息处理企业发出了以下警告。

（1）个人信息处理企业应注意的事项

① 当个人信息处理企业在生成AI服务中输入包含个人信息的提示时，应充分确认其在实现特定个人信息使用目的的必要范围内。

② 如果个人信息处理企业在未经本人同意的情况下向生成AI服务输入包含个人数据的提示，并且该个人数据被用于除对该提示的响应结果输出之外的目的，该个人信息处理企业可能违反了《日本个人信息保护法》的规定。因此，在进行此类提示输入时，应充分确认提供该生成AI服务的企业不会将该个人数据用于机器学习等。

关于使用生成AI服务的警告等[ja]

个人信息处理企业在提供生成AI服务时，需要确认个人信息保护委员会发布的警告等，并采取适当的应对措施。具体来说，如果企业提供的服务或产品使用了生成AI服务，就需要确认其使用方法和个人信息的处理方法，并采取必要的改进措施。

此外，与提供生成AI服务的企业有业务交易关系的企业也需要确认该企业是否采取了适当的个人信息保护措施。

总结：谨慎判断ChatGPT的应用和个人信息的处理

对于ChatGPT等生成AI服务的提供和使用，需要充分考虑到个人信息的处理。特别是，如果企业提供的服务或产品使用了生成AI服务，就需要确认其使用方法和个人信息的处理方式，并采取必要的改进措施。

关于个人信息处理的法律规定因国家而异，因此，在互联网上提供服务时，除了本次的警示之外，还有许多需要注意的事项。关于个人信息的处理，我们建议您咨询律师。

我们事务所的应对措施介绍

Monolith法律事务所是一家在IT，特别是互联网和法律两方面都有丰富经验的法律事务所。AI业务伴随着许多法律风险，因此需要精通AI相关法律问题的律师的支持。我们的事务所拥有精通AI的律师和工程师等团队，为包括ChatGPT在内的AI业务提供高级法律支持，包括合同制定、业务模式的合法性审查、知识产权保护、隐私权应对等。详细内容请参阅以下文章。

Monolith法律事务所的业务领域：AI（ChatGPT等）法务[ja]