【速報】個人情報保護委員会がChatGPTの利用に関して注意喚起

ChatGPTをはじめとする生成AIサービスは、現在、我が国において急速に普及しています。しかし、その利用にあたり、個人情報の取り扱いに関する問題が指摘されています。

個人情報保護委員会は、この問題に対応するため、令和5年6月2日付けで生成AIサービスの利用に関する注意喚起を行いました。本記事では、生成AIサービスを提供する事業者のために、注意喚起の内容について解説します。

急速に普及する「ChatGPT」等の生成AIサービス

現在、我が国において、生成AIサービス（質問・作業指示（プロンプト入力）等に応えて文章・画像等を生成するAIを利用したサービス）が急速に普及しています。これらのサービスは、ビジネスやエンターテインメントなど、さまざまな分野で活用されており、その可能性は計り知れません。

しかし、その一方で、ChatGPT等の生成AIサービスの利用にあたり、個人情報の取り扱いに関する問題が指摘されています。例えば、ChatGPT等を利用して生成AIサービスを提供する企業が、ユーザーから収集した個人情報を適切に管理しているかどうかが問題となっています。

個人情報保護委員会がOpenAIに対して行った注意喚起の概要

このような状況を踏まえ、個人情報保護委員会は、生成AIサービスの利用に関する注意喚起等を行いました。具体的には、生成AIサービスであるChatGPTを開発・提供するOpenAI, L.L.C.及びOpenAI OpCo, LLCに対して、注意喚起を行いました。

参考：個人情報保護委員会｜生成AIサービスの利用に関する注意喚起等について（令和５年６月２日）

個人情報保護委員会は、、OpenAIに対して、あらかじめ本人の同意を得ないで、ChatGPTの利用者及び利用者以外の者を本人とする要配慮個人情報を取得しないことを求めました。

「要配慮個人情報」とは、本人に対する不当な差別・偏見その他の不利益が生じないように、取扱いについて特に配慮を要する一定の個人情報を意味します。これには、人種、信条、社会的身分、病歴、犯罪の経歴、犯罪により害を被った事実などが含まれます。

この注意喚起では、OpenAIが提供するChatGPTが、ユーザーから収集した個人情報を適切に管理しているかどうかが問題とされています。個人情報保護委員会は、OpenAIに対し、ユーザーから収集した個人情報の取り扱い方法を改善するよう求めました。

ChatGPTを利用したサービスを提供している事業者への注意喚起

同時に、個人情報保護委員会は、個人情報取扱事業者に対しても以下の注意喚起を行っています。

（１）個人情報取扱事業者における注意点

① 個人情報取扱事業者が生成AIサービスに個人情報を含むプロンプトを入力する場合には、特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認すること。

② 個人情報取扱事業者が、あらかじめ本人の同意を得ることなく生成AIサービスに個人データを含むプロンプトを入力し、当該個人データが当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合、当該個人情報取扱事業者は個人情報保護法の規定に違反することとなる可能性がある。そのため、このようなプロンプトの入力を行う場合には、当該生成AIサービスを提供する事業者が、当該個人データを機械学習に利用しないこと等を十分に確認すること。

「生成AIサービスの利用に関する注意喚起等について」

個人情報取扱事業者は、生成AIサービスの提供にあたり、個人情報保護委員会が発表した注意喚起等を確認し、適切な対応を行う必要があります。具体的には、企業が提供するサービスや製品が生成AIサービスを利用している場合は、その利用方法や個人情報の取り扱い方法を確認し、必要な改善措置を講じることが求められます。

また、生成AIサービスを提供する企業とビジネス上の取引関係にある事業者は、その企業が適切な個人情報保護措置を講じているかどうか確認することも重要です。

まとめ：ChatGPTの活用と個人情報の取り扱いについては慎重に判断を

ChatGPT等の生成AIサービスの提供・利用に関しては、個人情報の取り扱いには十分配慮した措置が求められます。特に、企業が提供するサービスや製品が生成AIサービスを利用している場合は、その利用方法や個人情報の取り扱い方法を確認し、必要な改善措置を講じることが求められます。

個人情報の取り扱いに関する法律は国によって異なるため、インターネット上で提供されるサービスの場合には、今回の注意喚起以外にも気を付けなければいけない点が数多くあります。個人情報の取り扱いについては、弁護士に相談することをお勧めします。

当事務所による対策のご案内

モノリス法律事務所は、IT、特にインターネットと法律の両面に豊富な経験を有する法律事務所です。AIビジネスには多くの法的リスクが伴い、AIに関する法的問題に精通した弁護士のサポートが必要不可欠です。当事務所は、AIに精通した弁護士とエンジニア等のチームで、ChatGPTを含むAIビジネスに対して、契約書作成、ビジネスモデルの適法性検討、知的財産権の保護、プライバシー対応など、高度な法的サポートを提供しています。下記記事にて詳細を記載しております。

モノリス法律事務所の取扱分野：AI（ChatGPT等）法務