딥페이크 피해를 입은 경우, 제작자 식별 및 동영상 삭제 방법

2020년(일본 연호 레이와 2년), 성인 비디오 출연자의 얼굴을 인기 연예인의 얼굴로 바꾼 동영상을 트위터나 유료 사이트에서 공개한 사람이 명예훼손과 저작권법 위반으로 체포된 사건이 보도되었습니다. 이런 동영상을 ‘딥페이크’라고 합니다.

딥페이크 기술 자체는 원래 미국 스탠포드 대학에서 개발되었다고 알려져 있지만, 최근 일본에서도 딥페이크 동영상으로 연예인이나 유명인이 피해를 입는 사례가 증가하고 있습니다.

그래서 이 글에서는 소속 연예인이나 탤런트가 딥페이크의 피해를 입은 연예기획사를 대상으로, 동영상 사이트에 무단으로 얼굴을 사용하여 게시된 경우의 게시자 식별 방법과 동영상 삭제 과정에 대해 설명하겠습니다.

디프페이크란 무엇인가

디프페이크는 최근에 문제가 되기 시작한 새로운 위험입니다. 먼저, 디프페이크란 무엇인지, 어떤 피해가 우려되는지 설명하겠습니다.

디프페이크는 AI를 활용한 기술

디프페이크란, 인공지능(AI)의 ‘딥’ 러닝과 가짜를 의미하는 ‘페이크’를 결합한 단어입니다. 즉, 딥러닝 기술을 활용하여 의도적으로 합성하여 만든 가짜 동영상이 디프페이크라는 것입니다.

디프페이크 기술에서는, 대상이 되는 사람의 이미지를 수백장에서 수천장 준비하면, 딥러닝을 통해 알고리즘이 대상의 표정이나 얼굴 모양을 분석하여 학습합니다.

이 학습에 기반하여, 다른 사람이 나온 동영상을 대상이 된 사람이 나온 동영상으로 바꿀 수 있습니다. 이미지뿐만 아니라, 목소리의 악센트나 억양 등도 마찬가지로 딥러닝을 통해 만들 수 있습니다.

기존에는 합성 이미지나 동영상을 만들어도, 분명히 합성임을 알 수 있는 낮은 정밀도에 그쳤습니다. 그러나, 최근의 IT 기술의 발전으로 디프페이크는 마치 본인의 동영상인 것처럼 착각할 정도의 정밀도로 만들 수 있게 되었습니다.

이 때문에, 동영상을 본 사람이, 본인이 동영상에서 보여지는 행동을 한 것으로 오해하는 위험이 있습니다.

디프페이크에 의한 피해

디프페이크 기술 자체가 나쁜 것은 아닙니다. 그러나, 디프페이크를 통해, 대상이 실제로 하지 않은 행동이나 발언이 있었던 것처럼 가장할 수 있습니다.

이 때문에, 악의를 가진 사람이 디프페이크를 이용하면, 이번에 체포된 사람처럼 연예인이나 유명인이 실제로 출연하지 않은 성인 동영상을 만들 수 있게 됩니다.

또한, 정부의 요인 등 정치나 경제에 영향력을 가진 위치의 사람의 디프페이크가 만들어지면, 속은 미디어가 가짜 뉴스를 확산하고, 정치적 불안이나 외교 문제로 발전할 수 있습니다. 이 때문에, 일본뿐만 아니라 전 세계적으로 문제가 되기 시작했습니다.

디프페이크의 범죄성과 불법성

이번에 디프페이크 관련 첫 체포자가 나왔습니다. 경찰청의 발표에 따르면, 피의자는 AV 출연자의 얼굴을 여성 연예인의 얼굴로 바꾼 동영상을 유료 사이트 등에서 공개했습니다. 보도에 따르면, 체포 시의 혐의는 다음의 두 가지입니다.

• 여성 연예인에 대한 명예훼손죄
• AV 제작 회사의 저작권 침해

명예훼손죄

이번 사건에서 동영상이 게시된 곳은 트위터나 유료 사이트 등 불특정 또는 다수의 사람이 볼 수 있는 곳이었습니다.

이 때문에, 피해자인 여성 연예인이 AV에 출연하고 있는 것처럼 불특정 다수의 관람자에게 인상을 주고, 피해자의 명예를 훼손한 것으로 판단되었습니다.

저작권 침해

또한, 성인 비디오에 대해서는 제작자인 성인 비디오 제작 회사에 저작권이 있습니다. 저작권의 하나로서, ‘동일성 유지권’이라고 불리는, 저작물을 저작권자의 의도에 반하여 임의로 변경되지 않는 권리가 있습니다.

이번 사건에서는, 성인 비디오 제작 회사의 허락 없이 동영상의 내용을 변경하고 있으므로, 제작 회사의 동일성 유지권을 침해한 것으로 볼 수 있습니다.

프라이버시 침해·초상권 침해

디프페이크는, 다른 사람의 얼굴을 무단으로 동영상에 사용하는 것으로, 일반적으로 초상권 침해에 해당합니다.

또한, 프라이버시 침해는, 간단히 말하면, ‘특정 개인의 개인적인 사항(그것이 진실인지 아닌지는 문제가 아님)을 무단으로 공개하는 것이 불법’이라는 구조이며, 특정 개인의 성적인 사건을 공개하는 것은, 그것이 가짜인 것이라도, 일반적으로 프라이버시 침해에 해당합니다.

https://monolith.law/reputation/personal-information-and-privacy-violation[ja]

그러나, 초상권이나 프라이버시 침해는, 민사상 불법이며, 아래에서 설명할 것처럼 민사 절차에 의한 게시자 식별이나 동영상 삭제, 가해자에 대한 손해배상 청구의 근거가 될 수는 있지만, ‘범죄’는 아닙니다. 따라서, 이러한 피해를 주장하는 것만으로는, 경찰에 수사를 촉구할 수 없습니다.

법률이 기술의 발전을 따라잡지 못하고 있다

그러나, 모든 디프페이크가 명예훼손죄나 저작권 침해로 인해 범죄가 되는 것은 아닙니다. 기본적으로 현재의 법률은, AI 기술의 발전으로 정교한 디프페이크 동영상을 만들 수 있는 것을 전제로 하고 있지 않습니다. 이 때문에, 현행법에서는 범죄로서 형사 책임을 물을 수 없는 것도 현실입니다.

이번에 체포된 동영상처럼, 동영상이 불특정 또는 다수의 사람이 볼 수 있는 상태에서 공개되고, 그리고 합성된 동영상이 일반적으로 연예인의 이미지를 저하시키는 내용인 경우에는, 명예훼손죄에 해당할 가능성이 있습니다.

이 때문에, 현재 시점에서는, 연예인이 피해를 입은 경우에는, 명예훼손에 해당한다고 주장하는 경우가 많을 것으로 생각됩니다.

딥페이크 제작자의 식별

피해를 입었을 경우, 먼저 생각해야 할 것은 제작자의 식별입니다. 그러나 딥페이크는 종종 폐쇄된 세계에서 거래되고 있어, 그 흔적을 찾는 것이 쉽지 않습니다.

그래서, 딥페이크의 제작이 어떤 세계에서 이루어지는지, 딥페이크 제작자의 식별 방법에 대해 설명하겠습니다.

딥페이크 제작자의 실체

이번에 체포된 사건에서는, 누구나 볼 수 있는 곳에서 공개되어 피해가 드러났다고 할 수 있습니다. 그러나 유명한 연예인의 성인 영상은, 물밑에서 큰 수요가 있다고 알려져 있으며, 이번에 체포된 것은 빙산의 일각으로 보입니다.

많은 딥페이크에 대해서는, 연예인의 팬이 딥페이크 기술자에게 자신의 취향의 (대부분은 성인 관련의) 영상 제작을 외부에서 볼 수 없는 특수한 커뮤니티에서 요청하고 있을 가능성이 있습니다.

기술자에게 보상을 가상화폐로 지불하여 발자취를 숨기는 경우도 있으며, 제작자를 식별하는 것은 어려울 수 있습니다.

딥페이크 제작자의 식별 방법

제작자의 식별은 어렵지만, Twitter와 같이 누구나 접근할 수 있는 사이트에서 공개된 경우에는 식별이 가능해집니다. 영상을 트윗할 때의 IP 주소를 트위터사에서 공개받아, 이를 단서로 제작자를 식별할 수 있습니다. 정규적인 절차를 거쳐, 식별이 성공하면 주소나 성명, 이메일 주소까지 알 수 있습니다.

이 경우의 제작자 식별 방법은, Twitter 등 인터넷 상에서 비방을 받은 경우와 기본적으로 동일합니다. 인터넷에서의 게시자 식별 절차에 대해서는, 아래의 기사에서 자세히 설명하고 있습니다.

또한, 이 절차는, 민사상의 것이며, ‘범죄’가 아니더라도, 위에서 언급한 것처럼 초상권 침해나 프라이버시 침해가 이루어지고 있는 한 인정됩니다.

https://monolith.law/reputation/disclosure-of-the-senders-information[ja]

그러나, 앞서 언급한 것처럼 폐쇄된 커뮤니티에서 딥페이크 영상이 제작된 경우에는, 실제로 제작자의 식별에 어려움이 생길 수 있습니다.

한 가지 가능성으로, 이번 사건처럼 어떤 범죄에 해당한다고 할 경우, 형사고발을 통해 경찰의 수사로 딥페이크 제작자를 식별할 수 있는 경우가 있습니다.

딥페이크 동영상 삭제

딥페이크 동영상이 피해자의 사회적 이미지를 저하시키는 내용일 경우, 동영상 삭제는 반드시 진행해야 합니다.

또한, 인터넷 상에서 동영상이 공개되어 있는 경우, 공개된 시간이 지날수록 확산되게 됩니다. 이러한 이유로, 피해를 인지하였다면 가능한 한 빠르게 대응하는 것이 바람직합니다.

딥페이크 제작자에게의 삭제 요청

앞서 언급한 절차를 통해 제작자를 특정할 수 있는 경우, 제작자에게 직접 동영상 삭제를 요청하는 것도 가능합니다.

제작자가 트위터나 인스타그램 등의 계정을 가지고 있는 경우, 다이렉트 메시지(DM) 기능 등을 활용하여 상대방에게 연락하는 것도 선택사항으로 고려될 수 있습니다.

그러나, 피해자가 제작자에게 연락을 하게 되면, 이를 계기로 계정이나 증거를 삭제하고 도망칠 위험도 있습니다. 이러한 이유로, 적어도 피해의 증거가 될 수 있는 것을 보관한 후에 제작자에게 삭제 요청을 하는 것이 좋습니다.

사이트 관리자에 대한 삭제 요청

제작자를 즉시 특정할 수 없는 경우나, 특정할 수 있지만 삭제에 응하지 않을 것으로 생각되는 경우, 게시된 사이트의 관리자에게 삭제를 요청하는 방법이 있습니다.

예를 들어, 트위터나 유명 게시판의 경우 운영 회사가 정한 이용 약관에 위반하는 콘텐츠를 삭제해주는 경우가 있습니다.

이용 약관 위반으로 삭제를 요청하는 경우, 게시된 웹사이트의 서비스 이용 약관 등을 확인하고, 이용 약관의 어느 조항에 위반하는지를 구체적으로 명시하는 것이 중요합니다.

또한, 웹사이트의 관리자가 삭제에 응하지 않는 경우, 법원을 통한 절차인 가처분을 통해 문제가 있는 기사의 삭제를 요청할 수 있습니다. 인터넷 상의 게시물을 삭제하기 위한 가처분에 대해서는, 아래의 기사에서 자세히 설명하고 있습니다.

https://monolith.law/reputation/provisional-disposition[ja]

요약

연예인이나 탤런트가 딥페이크의 피해를 입었을 경우, 소속사는 신속하게 정보를 수집해야 합니다.

또한, 딥페이크로 추정되는 동영상을 발견하면, 해당 동영상이나 관련 데이터가 게시된 사이트의 상황을 사진, 녹화, 스크린샷 등으로 저장하고, 즉시 대응 방안을 검토합니다.

이후 법적 대응에 대해서는, 법원이나 경찰에 절차를 진행해야 하므로, 기본적으로 변호사에게 상담하는 것이 필요하다고 생각됩니다. 이때, 인터넷이나 IT 기술의 원리에 익숙한 변호사에게 상담하는 것이 좋습니다.