Twitterのヘイト行為ルール改定と削除・アカウント凍結

2020年3月6日、Twitter はヘイト行為に関するルールを改定し、「ヘイト⾏為に対するTwitterポリシーをアップデート」を発表しました。今回の改定により、今後は年齢、障がい、病気を理由に他者の人間性を否定するようなツイートが禁止され、特定個人への具体的な暴力の予告を含んでいなくても、通報があった場合に削除を求められるほか、状況や文脈によってはアカウントが停止となる可能性があります。

過去のヘイト行為ルールの改定

Twitterは今までにも何回かヘイト行為に関するルールを改定してきました。「ポリシー変更プロセスにもとづき、変更や考えを実装するにあたって外部の評議会などにも意見をうかがいながら行」ってきたとのことです。

例えば2017年12月には、「暴力や身体的危害に関するポリシーの拡大」を行い、従来の「暴力的な脅迫や、個人または集団に向けた重大な身体的危機、死亡、病気を望む行為の禁止」に関係するものを追加し、暴力を使用または推奨するグループに関係するアカウントを禁止しました。暴力的行為やその加害者を推奨して模倣するように促すことや、特定のグループに所属している人々をターゲットにすることなどが含まれます。このようなものがあった場合、該当するツイートの削除を求め、違反行為を繰り返し行うアカウントは永久凍結されることになりました。このとき禁止された画像の例としては、

• 歴史的にヘイト助⻑組織に関連した象徴（ナチスのかぎ⼗字など）
• ⾮⼈間的に扱われた個⼈を含む画像、またはヘイトの象徴を含むよう加⼯された画像（個⼈画像を加⼯し、獣のような姿にするなど）
• ヘイトの象徴を含むよう、または⼀部の国や地域で規定されている保護対象のカテゴリの⼈々を対象にした⼤量虐殺について⾔及する内容を含むよう加⼯された画像（個⼈画像を加⼯し、ホロコーストを連想させるダビデの星を挿⼊するなど）

等があげられていました。

また、2018年にはTwitterは幅広い意⾒を考慮し、ポリシーがさまざまなコミュニティや⽂化にどのような影響を及ぼすかについて、利⽤者にフィードバックを求めました。そして得られた世界30以上の国から寄せられた8,000件を超える回答を基に検討し、2019年7月11日には、宗教を理由に他者の人間性を否定するようなツイートを禁止しました。

今回のヘイト行為ルールの改定

今回の改定により、年齢、障がい、病気を理由に「他者の人間性を否定するようなツイート」が禁止されることになりましたが、「病気」の追加は、新型コロナウイルス感染症（COVID-19）に関する不安が広がる中、感染者に対する差別的なツイートが増加するだろうことへの対策とみられます。

具体例として挙げられている禁止ツイートは、

• 「（年齢層）のすべての人々はハエのようなたかり屋であり、どのような支援を施す価値もない」
• 「（障がい）の人々は人間未満であり、人前に出すべきではない」
• 「（病気）患者は、周囲にいるすべての人々を汚染する害獣だ」

であり、今後はこのような年齢や疾患、障がいにもとづいて人間性を否定する発言は、通報があった場合に削除を求められるほか、状況や文脈によっては即アカウント停止になるリスクがあります。Twitter は従来から、人種・国籍・出身地・性別・性的指向・性同一性・信仰・年齢・病気・障がいといった属性を理由とした差別的発言、攻撃、暴力の扇動を禁じてきました。

「非人間的に扱うことの禁止」とは、Twitter でのヘイト行為や嫌がらせ被害の問題、特にTwitter上での扇動や攻撃が現実での犯罪行為や暴力を招くことを抑止するために導入されたルールです。Twitter によれば、属性をもとに「虫けら」のように貶める言動は、特定の個人や集団に対する直接的な暴力の予告や扇動でなくても、日常的に接することで他者への非人間的な扱いが許容されているかのような印象を与え、現実の暴力を促進させることが、ヘイトや暴力の研究者によって明らかにされているそうです。

今後、こうした属性にもとづいて人間性を否定 (dehumanize)する発言、たとえば特定の年齢層や病気の感染者を害虫に例えるようなツイートは、特定個人への具体的な暴力の予告を含んでいなくても削除の対象となります。Twitterが最も重視しているのはTwitterを離れた場所での現実的な身体的危害に対処することであり、⼈間性を否定する⾔葉はそうしたリスクを増⼤させることが調査によって明らかになっているからです。

なぜ、これらのカテゴリなのか

Twitter が2018年に利⽤者に求めたフィードバックによれば、最も多かった要望は、

• 要件の明確化
• 対象を絞り込むこと
• ⼀貫した措置をとること

であったそうです。

「要件の明確化」は、ポリシーをより詳細に規定し、違反事例をより多く提⽰し、いつ、どのように⽂脈を考慮するのかについての説明を加えることにより、Twitter が改善されるという意見ですが、こうしたフィードバックをルール調整の際に取り⼊れると同時に、より詳細な説明を加えてルールの明確化が図られることは大切でしょう。

「対象を絞り込むこと」は、「特定可能なグループ」という表現では対象が広すぎるので、⼈間性を否定する⾔葉と政治的グループやヘイトグループ、その他社会的に主流派ではないグループとを明確にして、ツイート内容を関連づけるべきだという意⾒です。例えばヘイトグループが使用する場合の「monsters（モンスター）」とファンや友⼈が内輪で合意の上で会話として使用する場合の「monsters（モンスター）」は意味が異なり、それぞれのグループと関連づけるべきだというものですが、これは、判断が難しい問題となります。

「⼀貫した措置をとること」は、当然でしょうが、公正さや⼀貫性をもって執⾏措置を実施するTwitterの能⼒に対する懸念が提起されたそうです。Twitterでは担当チームが⻑期間に渡る徹底的なトレーニングプロセスを構築し、今回のポリシーの更新については、どのような場合にこのルールに違反する可能性があるのか、時間をかけて実例を検討したとのことです。

今回の改定以前に、すでに大原則として年齢や性別や出身地や性同一性等々にもとづく差別や嫌がらせを禁じているのだから、「人間性の否定」禁止ルールにそうした属性も足せばよいのでは、とも思えますが、Twitter によればこれはユーザーからのフィードバックに上の3点の指摘が多かったことから、また文化的なニュアンスの違いを理解するため、実例をもとに十分な時間をかけて取り締まる側をトレーニングする必要があったが、それが可能になったからだそうです。

外部専⾨家によるグローバルなワーキンググループ

Twitterは、「⼈種、⺠族、出⾝国など、より複雑なカテゴリを対象とした⼈間性を否定するスピーチにどのように対処すべきかを検討するために、外部の専⾨家からなるグローバルなワーキンググループを立ち上げた」そうですが、このグループは、微妙なニュアンス、重要な地域および歴史的背景を理解し、最終的には、

• ⼀般的に差別的だと考えられる⽤語の使⽤を含め、社会的に主流派でないグループ内で交わされる会話をどのように保護するのか
• 前後の背景を⼗分に考慮し、違反の重⼤さなど必要な要素を反映したうえで適切な範囲で相応の執⾏措置をとるにはどうすれば良いのか
• 保護対象の特定のグループが歴史的に少数派であるかどうか、また現時点で危害の標的にされているかどうかという点を、危害の深刻さを評価するうえでどのように考慮するのか、また、そうすべきか
• 異なるグループ間で作⽤する⼒関係にどのように対応すればよいのか

といった質問に答えることができるだろうとしています。これはまさに「微妙なニュアンス」と「重要な地域および歴史的背景」を理解している必要がある難しい問題であり、それらの能力が備わっていて初めて実現できることなのですが、Twitterは今後もルールの拡⼤を慎重かつ効果的に⾏いたいとしています。

削除とアカウントの凍結

ポリシー違反に対する処分を判断する際に、Twitterは、その違反の重⼤さや違反者の過去の違反歴など、さまざまな要因を考慮するとしています。例えば、違反者に対して違反しているコンテンツの削除を要請し、再びツイートできるようになるまで、⼀定期間読み取り専⽤モードで利⽤するよう求める場合があります。その後の違反については、読み取り専⽤モード期間が延⻑され、最終的にはアカウントが永久凍結される場合があります。アカウントの活動が主に攻撃的な⾏為ばかりである場合、または強烈な⾝体的脅迫を共有したとみなされる場合、Twitterは最初の調査でアカウントを永久凍結する場合もあります。

今回の改定に伴い、新しいツイートだけでなく、過去のツイートに関しても違反報告があった場合には、削除が義務付けられます。ただし、2020年3月6日以前に投稿されたツイートに対して違反報告があった場合には、違反に該当するツイートを削除する義務は発生しますが、アカウントの凍結になることはないとされています。もちろん、アカウントの凍結対象とならないのは「ルールが施行される以前の投稿」とあるので、3月6日以降に違反ツイートを投稿した場合は厳重な処罰（アカウントの凍結、停止）の対象となる可能性が考えられるわけです。

フェイクメディアを含むツイートに対する警告ラベル

「ヘイト⾏為に対するTwitterポリシーをアップデート」発表の前日である3月5日、iOS版Twitterアプリのver.8.11アップデートがリリースされたのですが、リリースノート内にて「混乱や損害を引き起こす可能性がある操作された画像または動画を含むツイート」の対策（操作されたメディアのラベル表示、RT前に警告等）が言及されています。

「Twitterでは、混乱や損害を引き起こす可能性がある操作された画像または動画を含むツイートがあることを認識しています。3月5日から、このようなツイートを示し、その背景情報を伝えるラベルが追加されます」と、対策にはありますが、危害をもたらす可能性のある「合成または操作されたコンテンツを含むツイート」には、

• ツイートにラベル（操作されたメディア）が表示される
• リツイート、「いいね」の前に警告が表示される
• Twitter上で該当ツイートが表示されづらくなり、「おすすめ」されないようになる
• 可能な場合は、背景情報が含まれるウェブサイトへのリンクなどの追加情報が表示される

といった措置が講じられることになりました。ヘイト⾏為に対するポリシーのアップデートとは、直接の関係はないのですが、同じタイミングであり、Twitterの動向として、興味深いものと言えるでしょう。

まとめ

Twitterは、いろいろと措置を講じ、進化し続けようと努力しているようです。今回のアップデート発表文の最後に「Twitterは今後もグローバルコミュニティに貢献し、ポリシーやプロダクトの開発およびその機能について、利⽤者の皆さんの声を確実に活かした形でTwitterを構築してまいります。Twitterではポリシーの対象範囲を拡⼤していく予定です」と記されていますが、どのような方向へ向かうことになるのか、今後もTwitterに注目したいところです。