【快報】日本個人資訊保護委員會對使用ChatGPT的警告

包括ChatGPT在內的生成AI服務，目前在本所的國家迅速普及。然而，在使用這些服務時，已經指出了與個人信息處理相關的問題。

為了應對這個問題，日本個人信息保護委員會（Japanese Personal Information Protection Commission）於令和5年（2023年）6月2日發出了關於使用生成AI服務的警告。本文將為提供生成AI服務的業者解釋這些警告的內容。

急速普及的「ChatGPT」等生成AI服務

目前，在本所的國家，生成AI服務（回應問題、工作指示（提示輸入）等，利用AI生成文章、圖像等的服務）正在急速普及。這些服務在商業、娛樂等各種領域都得到了應用，其潛力無法估量。

然而，另一方面，對於使用ChatGPT等生成AI服務，有人指出了與個人信息處理相關的問題。例如，是否使用ChatGPT等提供生成AI服務的公司已經適當管理了從用戶那裡收集的個人信息，這已成為一個問題。

個人資訊保護委員會對OpenAI的警告概述

考慮到這種情況，個人資訊保護委員會對生成AI服務的使用發出了警告。具體來說，對開發和提供生成AI服務ChatGPT的OpenAI, L.L.C.和OpenAI OpCo, LLC發出了警告。

參考：個人資訊保護委員會｜生成AI服務的使用警告等（令和5年（2023年）6月2日）[日語]

個人資訊保護委員會要求OpenAI不得在未獲得本人同意的情況下，收集使用ChatGPT的用戶以及非用戶的敏感個人資訊。

“敏感個人資訊”是指需要特別注意處理的個人資訊，以防對本人產生不公平的歧視、偏見或其他不利影響。這包括種族、信仰、社會地位、病歷、犯罪記錄、受犯罪侵害的事實等。

在這次警告中，問題在於OpenAI提供的ChatGPT是否適當管理從用戶那裡收集的個人資訊。個人資訊保護委員會要求OpenAI改善對從用戶收集的個人資訊的處理方式。

對使用ChatGPT服務的業者的注意喚起

同時，個人資訊保護委員會也對個人資訊處理業者提出以下的注意喚起。

（１）個人資訊處理業者應注意的事項

① 當個人資訊處理業者將包含個人資訊的提示輸入到生成AI服務時，應充分確認該特定個人資訊的使用目的是否在必要的範圍內。

② 當個人資訊處理業者在未獲得本人同意的情況下，將包含個人資料的提示輸入到生成AI服務，並且該個人資料被用於除對該提示的回應結果輸出之外的目的時，該個人資訊處理業者可能違反了個人資訊保護法的規定。因此，在進行此類提示的輸入時，應充分確認提供該生成AI服務的業者是否不將該個人資料用於機器學習等。

「關於使用生成AI服務的注意喚起等」[日語]

個人資訊處理業者在提供生成AI服務時，需要確認個人資訊保護委員會發布的注意喚起等，並採取適當的應對措施。具體來說，如果企業提供的服務或產品使用了生成AI服務，則需要確認其使用方法和個人資訊的處理方法，並採取必要的改善措施。

此外，與提供生成AI服務的企業有業務交易關係的業者，也需要確認該企業是否採取了適當的個人資訊保護措施。

總結：謹慎判斷ChatGPT的應用與個人資訊的處理

對於提供和使用ChatGPT等生成AI服務，需要對個人資訊的處理採取充分的考慮措施。特別是，如果企業提供的服務或產品使用了生成AI服務，則需要確認其使用方法和個人資訊的處理方法，並採取必要的改進措施。

由於處理個人資訊的法律因國家而異，因此在提供網路服務的情況下，除了本次的注意喚起之外，還有許多需要注意的事項。對於處理個人資訊的問題，本所建議您諮詢律師。

本所事務所的對策介紹

MONOLITH法律事務所是一家在IT，特別是互聯網和法律兩方面都有豐富經驗的法律事務所。AI業務伴隨著許多法律風險，因此需要精通AI相關法律問題的律師的支援。本所的事務所由精通AI的律師和工程師等團隊組成，為包括ChatGPT在內的AI業務提供高級法律支援，包括製作契約、審查業務模型的合法性、保護知識產權、處理隱私問題等。詳細內容已在下文中說明。

MONOLITH法律事務所的業務範疇：AI（包括ChatGPT等）法務 [英語]