【긴급 보도】'개인정보보호위원회'가 ChatGPT의 이용에 대해 주의를 당부하다

ChatGPT를 비롯한 생성 AI 서비스는 현재 우리나라에서 급속도로 보급되고 있습니다. 그러나, 이를 사용함에 있어서 개인정보 처리에 대한 문제가 지적되고 있습니다.

개인정보보호위원회는 이 문제에 대응하기 위해, 2023년(레이와 5년) 6월 2일에 생성 AI 서비스 사용에 대한 주의를 당부하였습니다. 이 글에서는 생성 AI 서비스를 제공하는 사업자를 위해, 주의사항의 내용에 대해 설명하겠습니다.

급속히 보급되는 ‘ChatGPT’ 등의 생성 AI 서비스

현재 우리나라에서는 생성 AI 서비스(질문·작업 지시(프롬프트 입력) 등에 응답하여 문장·이미지 등을 생성하는 AI를 활용한 서비스)가 급속히 보급되고 있습니다. 이러한 서비스들은 비즈니스나 엔터테인먼트 등 다양한 분야에서 활용되고 있으며, 그 가능성은 측정할 수 없습니다.

그러나, 한편으로는 ChatGPT 등의 생성 AI 서비스를 이용할 때, 개인정보의 취급에 관한 문제가 지적되고 있습니다. 예를 들어, ChatGPT 등을 이용하여 생성 AI 서비스를 제공하는 기업이 위탁자로부터 수집한 개인정보를 적절히 관리하고 있는지 여부가 문제가 되고 있습니다.

개인정보보호위원회가 OpenAI에 대해 진행한 주의 깨우침 개요

이러한 상황을 고려하여, 개인정보보호위원회는 생성 AI 서비스의 이용에 관한 주의 깨우침 등을 진행하였습니다. 구체적으로는, 생성 AI 서비스인 ChatGPT를 개발 및 제공하는 OpenAI, L.L.C. 및 OpenAI OpCo, LLC에 대해 주의 깨우침을 진행하였습니다.

참고：개인정보보호위원회｜생성 AI 서비스의 이용에 관한 주의 깨우침 등에 대해（레이와 5년(2023년) 6월 2일）[ja]

개인정보보호위원회는 OpenAI에 대해, 미리 본인의 동의를 받지 않고, ChatGPT의 이용자 및 이용자 이외의 사람을 본인으로 하는 주의를 요하는 개인정보를 수집하지 않도록 요구하였습니다.

‘주의를 요하는 개인정보’란, 본인에 대한 부당한 차별, 편견 및 기타 불이익이 발생하지 않도록, 취급에 대해 특별히 주의를 요하는 일정한 개인정보를 의미합니다. 이에는 인종, 신조, 사회적 신분, 병력, 범죄 경력, 범죄로 인해 피해를 입은 사실 등이 포함됩니다.

이 주의 깨우침에서는, OpenAI가 제공하는 ChatGPT가 위탁자로부터 수집한 개인정보를 적절하게 관리하고 있는지 여부가 문제로 제기되었습니다. 개인정보보호위원회는 OpenAI에 대해, 위탁자로부터 수집한 개인정보의 취급 방법을 개선하도록 요구하였습니다.

ChatGPT를 이용한 서비스를 제공하는 사업자에 대한 주의 권고

동시에, 개인정보보호위원회는 개인정보처리사업자에 대해서도 아래의 주의 권고를 하고 있습니다.

(1) 개인정보처리사업자에게 주의할 점

① 개인정보처리사업자가 생성 AI 서비스에 개인정보를 포함한 프롬프트를 입력하는 경우, 특정된 해당 개인정보의 사용 목적을 달성하기 위해 필요한 범위 내에서 충분히 확인하는 것이 필요합니다.

② 개인정보처리사업자가 미리 본인의 동의를 얻지 않고 생성 AI 서비스에 개인 데이터를 포함한 프롬프트를 입력하고, 해당 개인 데이터가 해당 프롬프트에 대한 응답 결과의 출력 외의 목적으로 처리되는 경우, 해당 개인정보처리사업자는 개인정보보호법의 규정에 위반할 가능성이 있습니다. 따라서, 이러한 프롬프트의 입력을 진행하는 경우, 해당 생성 AI 서비스를 제공하는 사업자가 해당 개인 데이터를 기계 학습에 사용하지 않는 것 등을 충분히 확인하는 것이 필요합니다.

「생성 AI 서비스의 이용에 관한 주의 권고 등에 대해」 [ja]

개인정보처리사업자는 생성 AI 서비스의 제공에 있어서, 개인정보보호위원회가 발표한 주의 권고 등을 확인하고, 적절한 대응을 해야 합니다. 구체적으로는, 기업이 제공하는 서비스나 제품이 생성 AI 서비스를 이용하고 있는 경우, 그 이용방법이나 개인정보의 처리방법을 확인하고, 필요한 개선조치를 취하는 것이 필요합니다.

또한, 생성 AI 서비스를 제공하는 기업과 비즈니스 상의 거래관계에 있는 사업자는 그 기업이 적절한 개인정보보호조치를 취하는지를 확인하는 것도 중요합니다.

결론: ChatGPT 활용과 개인정보 처리에 대해 신중한 판단이 필요하다

ChatGPT 등의 생성 AI 서비스 제공 및 이용에 있어서는, 개인정보 처리에 대해 충분히 고려한 조치가 필요합니다. 특히, 기업이 제공하는 서비스나 제품이 생성 AI 서비스를 이용하고 있다면, 그 이용방법과 개인정보 처리방법을 확인하고, 필요한 개선조치를 취해야 합니다.

개인정보 처리에 관한 법률은 국가에 따라 다르기 때문에, 인터넷 상에서 제공되는 서비스의 경우에는, 이번 주의사항 외에도 주의해야 할 점이 많습니다. 개인정보처리에 대해서는, 변호사와의 상담을 권장합니다.

당사의 대책 안내

모노리스 법률사무소는 IT, 특히 인터넷과 법률의 양면에 풍부한 경험을 보유한 법률사무소입니다. AI 비즈니스에는 많은 법적 위험이 동반되며, AI에 관한 법적 문제에 정통한 변호사의 지원이 필수적입니다. 당사는 AI에 정통한 변호사와 엔지니어 등의 팀으로, ChatGPT를 포함한 AI 비즈니스에 대해, 계약서 작성, 비즈니스 모델의 적법성 검토, 지적 재산권의 보호, 프라이버시 대응 등, 고도의 법적지원을 제공하고 있습니다.

모노리스 법률사무소의 취급 분야: AI（ChatGPT 등）법무 [ja]