風評被害対策

ディープフェイクとは？被害に遭った場合の作成者の特定と動画の削除方法を解説

2021.03.03

2025.01.05

令和2年（2020年）、アダルトビデオの出演者の顔を人気芸能人の顔に置き換えた動画をX（旧Twitter）や有料サイトで公開した人が名誉毀損と著作権法違反にあたるとして逮捕されたニュースが流れました。このような動画を「ディープフェイク」といいます。

ディープフェイクの元になる技術自体はもともとアメリカのスタンフォード大学で開発されたといわれていますが、近年は日本でもディープフェイク動画で芸能人や有名人が被害に遭う事例が増えています。
この記事では、所属している芸能人やタレントがディープフェイクの被害に遭った芸能事務所向けに、勝手に顔を使われて動画サイトにアップされた場合の投稿者特定方法と動画削除のプロセスについて解説します。

この記事の目次

ディープフェイクとは何か

ディープフェイクは、最近になって問題視され始めた新しいリスクです。まずは、ディープフェイクとは何か、どのような被害が懸念されるのかを説明します。

ディープフェイクは生成AIを活用した技術

ディープフェイクとは、人工知能（生成AI）による「ディープ」ラーニングと、偽物を意味する「フェイク」を合わせてつくられた言葉です。要するに、ディープラーニングの技術を活用して意図的に合成して作られた偽物の動画がディープフェイクということになります。

ディープフェイクの技術では、対象となる人物の画像を数百枚から数千枚用意すると、ディープラーニングによってアルゴリズムが対象人物の表情や顔つきを分析して学習します。この学習に基づいて、他人が映っている動画を対象人物による動画としてすり替えることができます。画像だけではなく、声のアクセントやイントネーションなども同様にディープラーニングによって作成することができます。

従来は合成画像や動画を作成しても、明らかに合成だとわかるような低い精度にとどまっていました。しかし、昨今のIT技術の進歩によってディープフェイクはまるで本人の動画と見間違えるほどの精度で作成することができるようになっています。

このため、動画を見た人が、本人が動画のとおりの言動をしたと誤認してしまう危険性があります。

ディープフェイクによる被害

ディープフェイクの技術そのものが悪いというわけではありません。ただ、ディープフェイクによって、対象人物が実際には行っていない動作や発言が存在したかのように偽装することができてしまいます。

実際の被害事例として、香港では企業のCFOになりすました詐欺により約38億円もの経済的被害が発生しています。

参考：CNN.co.jp ｜会計担当が３８億円を詐欺グループに送金、ビデオ会議のＣＦＯは偽物香港」

政府の要人など政治や経済に影響力を持つ立場の人物のディープフェイクが作成されると、騙されたメディアがフェイクニュースとして拡散し、政治不安や外交問題にも発展しかねません。このため、日本だけでなく世界的に問題視され始めています。

特に懸念されるのは、ディープフェイクの判別が極めて困難である点です。スマートフォンの小さい画面での視聴や短時間の視聴では、違和感に気付きにくい状況があり、これは情報の信頼性の確認がますます重要になっていることを示唆しています。

生成AIによるディープフェイクを直接規制する法律はない

あらゆるディープフェイクが名誉毀損罪や著作権侵害によって犯罪となるわけではありません。基本的に現在の法律は、生成AI技術の進展によって精緻なディープフェイク動画を作成できることを前提としていないからです。このため、現行法では犯罪として刑事責任を問えないケースもあります。

動画が不特定または多数の人が閲覧できる状態で公開されているのは、名誉毀損罪の対象になり得ます。合成された動画が一般的に芸能人のイメージを低下させるような内容である場合には、名誉毀損罪に問える可能性が高まります。

現時点においては、芸能人が被害に遭った場合には、名誉毀損にあたると主張することが多くなります。

ディープフェイクの犯罪性と違法性

令和2年のケースでは、ディープフェイク関連としては初の逮捕者が出ました。警視庁が公表したところによれば、被疑者はAV出演者の顔を女性芸能人の顔とすり替えた動画を有料サイトなどで公開しました。報道によれば、逮捕の際の罪名は以下の2つです。

女性芸能人に対する名誉毀損罪
AV制作会社の著作権侵害

名誉毀損罪

今回の事件で動画が掲載されたのはX（旧Twiiter）や有料サイト上という不特定または多数の人が見ることができる場所でした。このため、被害者である女性芸能人がAVに出演しているかのように不特定多数の閲覧者に印象づけ、被害者の名誉を毀損したと判断されたものです。

著作権侵害

また、アダルトビデオについては作成者であるアダルトビデオ制作会社に著作権があります。著作権の一つとして、「同一性保持権」と呼ばれる、著作物を著作権者の意に反して勝手に改変されない権利があります。

今回の事件では、アダルトビデオ制作会社に無断で動画の内容を改変しているので、制作会社の同一性保持権を侵害したといえます。

プライバシー侵害・肖像権侵害

ディープフェイクは、他人の顔を無断で動画利用するものであり、通常はいわゆる肖像権の侵害に該当します。

また、プライバシー権侵害は、端的に言うと、「ある個人のプライベートな事柄（それが真実か否かは問わない）を無断で公開することが違法」という構造であり、ある個人の性的な事象を公開することは、それが偽造されたものであれ、通常はプライバシー侵害に該当します。

関連記事：ネット上における個人的な情報の公開はプライバシー侵害になるのか

ただし、肖像権やプライバシー権の侵害は、民事上違法であり、後述するように民事手続による投稿者特定や動画削除、犯人への損害賠償請求の根拠とはなるのですが、刑法上の「犯罪」ではありません。したがって、こうした被害を訴えるだけでは、警察に捜査を促すことはできません。

わいせつ物頒布等罪

ディープフェイクポルノをインターネット上で公開する行為は、元となる素材がアダルトビデオなどのわいせつ動画であれば刑法第175条第1項に定められる「わいせつ物頒布罪」に該当する可能性があります。

また、販売目的でディープフェイクポルノを保持または保管する行為は、同条第2項の「わいせつ物所持保管罪」を適用する可能性があります。

わいせつ物頒布等罪に対する法定刑は、2年以下の懲役、250万円以下の罰金もしくは科料、または両方です。

最高裁における平成24年7月9日の決定は、法的な解釈の観点から重要な判例となっています。判例では、わいせつ物が掲載されたURLをインターネット上に書き込む行為について、わいせつ物陳列罪の成立を認めています。

他者が公開したわいせつ物をさらに拡散する行為は、元の頒布行為と類似した性質です。そのため、新たな法益侵害の危険性をもたらすことから、わいせつ物頒布行為等と同様の悪質性があると評価されます。したがって、ディープフェイクポルノの拡散行為についても、わいせつ物頒布等罪が適用される可能性は高いです。

ディープフェイク作成者の特定

被害に遭った場合、まず考えるのは作成者の特定です。ただし、ディープフェイクはクローズドな世界で取引されていることも多く、足取りをつかめないことも珍しくありません。

そこで、ディープフェイクの作成がどのような世界で行われているのか、ディープフェイク作成者の特定方法について説明します。

ディープフェイク作成者の実態

令和2年の逮捕者が出た事件では、誰でも閲覧できる場所で公開されたため被害が明るみに出たともいえます。ただ、有名な芸能人のアダルト動画は、水面下で大きな需要があると言われており、逮捕されたのは氷山の一角と思われます。

芸能人のファンがディープフェイク技術者に自分の好みの（多くはアダルト系の）動画作成を外部から見られない特殊なコミュニティにおいて依頼している可能性もあります。
足がつかないように技術者への報酬を仮想通貨（暗号資産）で支払うケースもあり、作成者を特定することは難しいことがあります。

ディープフェイク作成者の特定方法

作成者の特定は難しいものの、X（旧Twitter）のように誰でもアクセスできるサイト上で公開された場合は特定できる可能性は大きくなります。動画を投稿した際のIPアドレスをX社から開示を受け、これを手がかりに作成者を特定することができます。開示請求の手続きを踏んで特定が成功すれば、投稿者の住所や氏名、メールアドレス等を知ることができます。

ディープフェイクの作成者の特定方法は、SNSなどのインターネット上で誹謗中傷を受けたケースと基本的に同様です。インターネットにおける投稿者特定の手続きに関しては、以下の記事で詳細に解説しています。

なお、この手続は、民事上のものであり、刑法上の「犯罪」でなくても、上述のように肖像権侵害やプライバシー権侵害が行われている限りは開示が認められる可能性があります。

ただし、前述したようなクローズドなコミュニティ上でディープフェイク動画が作成・取引された場合には、現実には作成者の特定が困難なことがあります。一つの可能性として、令和2年の事件のように何らかの刑法上の犯罪にあたるといえる場合には、刑事告訴をすることで警察の捜査によってディープフェイク作成者が特定できることはあります。

ディープフェイク動画の削除

ディープフェイク動画が被害者の社会的なイメージを低下させる内容であった場合、動画の削除を行う必要があります。
また、インターネット上で動画が公開されている場合、公開から時間が経つほど拡散されてしまいます。このため、被害に気がついたら少しでも早く対処することが望まれます。

ディープフェイク作成者への削除請求

前述の手続きによって作成者が特定できている場合には、作成者に直接、動画の削除を求めることも可能です。

作成者がX（旧Twitter）やInstagramなどのアカウントを持っている場合には、ダイレクトメール（DM）機能などを利用して相手に連絡を取ることも選択肢としてはあり得ます。
ただし、被害者が作成者に連絡をすると、これをきっかけにしてアカウントや証拠を削除して逃げられるリスクもあります。このため、少なくとも被害の証拠となりうるものを保管してから作成者への削除請求を行ったほうが良いでしょう。

サイト管理者に対する削除請求

作成者がすぐに特定できない場合や、特定できているが削除に応じないと思われる場合には、掲載されたサイトの管理者に対して削除を求める方法があります。

例えば、Xや有名掲示板であれば運営会社が定めている利用規約に違反するコンテンツを削除してくれることがあります。

利用規約違反によって削除を求める場合には、掲載されているWEBサイトのサービス利用規約などを確認し、利用規約のどの条項に違反するかを具体的に明示することが重要です。

また、ウェブサイトの管理者が削除に応じない場合には、裁判所を通した手続である仮処分によって問題のある記事の削除を求めることができます。インターネット上の投稿を削除するための仮処分に関しては、以下の記事で詳細に解説しています。

関連記事：誹謗中傷対策において重要な「削除仮処分」とは

海外のディープフェイクの事例と対策

世界的にディープフェイクによる情報操作や犯罪が深刻化しています。実際に、インドネシア大統領選でのディープフェイク動画の流布や、米大統領選の予備選でバイデン大統領になりすました偽の音声による悪質な電話などが発生しました。このように、選挙に関連した情報操作の事例が確認されています。

EUでは、令和4年（2022年）11月に発効したデジタルサービス法（DSA）により、大規模オンラインプラットフォームに対して偽情報に関するリスク評価やリスク軽減措置の実施を義務付けました。違反企業には最大で世界年間売上高の6％の制裁金が科されます。

さらに令和6年（2024年）5月には、世界初の包括的なAI規制となる「AI規制法」が成立し、令和8年（2026年）頃から本格的に適用される予定です。

英国では、令和5年（2023年）10月に「オンライン安全法」が発効されました。故意に虚偽情報をインターネット上で送信し、受信者に心理的または身体的危害を与えることを意図した場合、6か月の禁錮刑が科されます。特に加害意図や性的満足を得ようとする意図が立証された場合は、最高で懲役2年の実刑です。

米国では、政府主導の取り組みとして、Google、Meta、OpenAIなど15社がAIの安全性や透明性向上に関する自主的なコミットメントに合意しました。電子透かしなどAIによる生成を識別するための技術開発を推進しています。

参考：総務省｜特集②　進化するデジタルテクノロジーとの共生