트위터의 혐오 행위 규칙 개정 및 삭제·계정 동결

2020년 3월 6일(일본 시대 헤이세이 32년), 트위터는 혐오 행위에 대한 규칙을 개정하고 ‘혐오 행위에 대한 트위터 정책 업데이트’를 발표했습니다. 이번 개정에 따라, 앞으로는 나이, 장애, 질병을 이유로 타인의 인간성을 부정하는 트윗이 금지되며, 특정 개인에 대한 구체적인 폭력 예고를 포함하지 않아도, 신고가 있을 경우 삭제를 요청받을 수 있습니다. 또한 상황이나 맥락에 따라 계정이 정지될 가능성이 있습니다.

https://monolith.law/reputation/deletion-twitter-tweets[ja]

과거 혐오 행위 규칙의 개정

Twitter는 지금까지 여러 차례 혐오 행위에 관한 규칙을 개정해 왔습니다. “정책 변경 과정에 따라, 변경 사항이나 생각을 구현하는 데 있어 외부의 평의회 등에서 의견을 수렴하며 진행하였다”고 합니다.

예를 들어, 2017년 12월에는 “폭력이나 신체적 위험에 관한 정책의 확대”를 실시하였고, 기존의 “폭력적인 위협이나, 개인 또는 집단에 대한 심각한 신체적 위기, 사망, 질병을 바라는 행위의 금지”에 관련된 사항을 추가하였습니다. 이에 따라 폭력을 사용하거나 추천하는 그룹에 관련된 계정을 금지하였습니다. 폭력적인 행위나 그 가해자를 추천하여 모방하도록 권장하는 것, 특정 그룹에 소속된 사람들을 대상으로 하는 것 등이 포함됩니다. 이러한 사항이 발견되면 해당 트윗의 삭제를 요구하고, 위반 행위를 반복하는 계정은 영구 정지되게 되었습니다. 이 때 금지된 이미지의 예로는,

• 역사적으로 혐오를 조장하는 조직과 관련된 상징 (나치의 후킹크로스 등)
• 비인간적으로 취급된 개인을 포함하는 이미지, 또는 혐오의 상징을 포함하도록 가공된 이미지 (개인 이미지를 가공하여 짐승 같은 모습으로 만드는 등)
• 혐오의 상징을 포함하도록, 또는 일부 국가나 지역에서 규정하고 있는 보호 대상 카테고리의 사람들을 대상으로 한 대량 학살에 대해 언급하는 내용을 포함하도록 가공된 이미지 (개인 이미지를 가공하여, 홀로코스트를 연상시키는 다비드의 별을 삽입하는 등)

등이 있었습니다.

또한, 2018년에는 Twitter가 다양한 의견을 고려하고, 정책이 다양한 커뮤니티와 문화에 어떠한 영향을 미치는지에 대해, 위탁자에게 피드백을 요청하였습니다. 그리고 얻어진 세계 30개 이상의 국가에서 제출된 8,000건 이상의 응답을 바탕으로 검토하였고, 2019년 7월 11일에는, 종교를 이유로 타인의 인간성을 부정하는 트윗을 금지하였습니다.

이번 헤이트 행위 규칙 개정

이번 개정에 따라, 나이, 장애, 질병을 이유로 ‘타인의 인간성을 부정하는 트윗’이 금지되었습니다. ‘질병’의 추가는, 신종 코로나바이러스 감염증(COVID-19)에 대한 불안이 확산하는 가운데, 감염자에 대한 차별적인 트윗이 증가할 것으로 예상되어 대비책으로 도입된 것으로 보입니다.

금지 트윗의 구체적인 예로는,

• ‘(나이대)의 모든 사람들은 파리처럼 빌붙는 것이며, 어떠한 지원도 가치가 없다’
• ‘(장애)를 가진 사람들은 인간 이하이며, 사람들 앞에 나와서는 안 된다’
• ‘(질병) 환자들은 주변에 있는 모든 사람들을 오염시키는 해충이다’

등이며, 앞으로 이러한 나이, 질병, 장애를 기반으로 인간성을 부정하는 발언은, 신고가 있을 경우 삭제를 요구받을 뿐만 아니라, 상황이나 맥락에 따라 즉시 계정 정지의 위험이 있습니다. Twitter는 기존부터 인종, 국적, 출신지, 성별, 성적 성향, 성 정체성, 신념, 나이, 질병, 장애 등의 속성을 이유로 한 차별적 발언, 공격, 폭력 선동을 금지하고 있습니다.

‘비인간적 대우 금지’는 Twitter에서의 헤이트 행위나 괴롭힘 피해 문제, 특히 Twitter 상에서의 선동이나 공격이 현실에서의 범죄 행위나 폭력을 초래하는 것을 억제하기 위해 도입된 규칙입니다. Twitter에 따르면, 속성을 기반으로 ‘벌레’처럼 비하하는 언행은, 특정 개인이나 집단에 대한 직접적인 폭력 예고나 선동이 아니더라도, 일상적으로 접하게 되면 타인에 대한 비인간적 대우가 허용되는 것처럼 인식되어, 현실의 폭력을 촉진시키는 것이 헤이트나 폭력 연구자들에 의해 밝혀졌다고 합니다.

앞으로, 이러한 속성을 기반으로 인간성을 부정(dehumanize)하는 발언, 예를 들어 특정 연령대나 질병 감염자를 해충에 비유하는 등의 트윗은, 특정 개인에 대한 구체적인 폭력 예고를 포함하고 있지 않아도 삭제 대상이 됩니다. Twitter가 가장 중요하게 여기는 것은 Twitter를 벗어난 곳에서의 현실적인 신체적 위험에 대처하는 것이며, 인간성을 부정하는 언어는 그러한 위험을 증가시키는 것이 조사에 의해 밝혀졌기 때문입니다.

https://monolith.law/reputation/crime-on-twitter[ja]

왜 이런 카테고리인가

트위터가 2018년에 위탁자로부터 받은 피드백에 따르면, 가장 많은 요구사항은 다음과 같았습니다.

• 요구사항의 명확화
• 대상의 선별
• 일관된 조치 취하기

이었다고 합니다.

‘요구사항의 명확화’는 정책을 더욱 상세하게 규정하고, 위반 사례를 더 많이 제시하며, 언제, 어떻게 맥락을 고려할 것인지에 대한 설명을 추가함으로써 트위터가 개선될 것이라는 의견입니다. 이러한 피드백을 규칙 조정 시에 도입하면서, 더욱 상세한 설명을 추가하여 규칙의 명확성을 도모하는 것이 중요할 것입니다.

‘대상의 선별’은 ‘특정 가능한 그룹’이라는 표현은 대상이 너무 넓다는 것으로, 인간성을 부정하는 말과 정치적 그룹, 혐오 그룹, 그 외 사회적으로 주류가 아닌 그룹을 명확히 하여, 트윗 내용을 연관시켜야 한다는 의견입니다. 예를 들어, 혐오 그룹이 사용하는 경우의 ‘monsters(몬스터)’와 팬이나 친구들이 서로의 동의 하에 대화로 사용하는 경우의 ‘monsters(몬스터)’는 의미가 다르며, 각각의 그룹과 연관시켜야 한다는 것입니다. 하지만 이는 판단이 어려운 문제가 될 수 있습니다.

‘일관된 조치를 취하기’는 당연하겠지만, 공정성과 일관성을 가지고 집행 조치를 실시하는 트위터의 능력에 대한 우려가 제기되었다고 합니다. 트위터에서는 담당 팀이 장기간에 걸친 철저한 훈련 과정을 구축하였으며, 이번 정책 업데이트에 대해서는 어떤 경우에 이 규칙을 위반할 가능성이 있는지, 시간을 들여 실례를 검토하였다고 합니다.

이번 개정 이전에 이미 연령, 성별, 출신지, 성 정체성 등에 기반한 차별이나 괴롭힘을 금지하는 것이 큰 원칙이었기 때문에, ‘인간성 부정’ 금지 규칙에 그러한 속성을 추가하면 되지 않을까, 라는 생각도 들 수 있습니다. 하지만 트위터에 따르면 이는 위탁자로부터의 피드백에서 위의 3가지 지적이 많았기 때문이며, 문화적인 뉘앙스의 차이를 이해하기 위해, 실례를 바탕으로 충분한 시간을 들여 단속 측을 훈련시키는 것이 필요했으며, 그것이 가능해졌다고 합니다.

외부 전문가에 의한 글로벌 워킹 그룹

트위터는 “인종, 민족, 출신국 등, 보다 복잡한 카테고리를 대상으로 한 인간성을 부정하는 발언에 어떻게 대처해야 할지를 검토하기 위해, 외부의 전문가로 구성된 글로벌 워킹 그룹을 설립하였다”고 합니다. 이 그룹은 미묘한 뉘앙스, 중요한 지역 및 역사적 배경을 이해하고, 최종적으로는,

• 일반적으로 차별적이라고 여겨지는 용어의 사용을 포함하여, 사회적으로 주류가 아닌 그룹 내에서 주고받는 대화를 어떻게 보호할 것인가
• 앞뒤의 배경을 충분히 고려하고, 위반의 중대성 등 필요한 요소를 반영한 후 적절한 범위에서 적절한 집행 조치를 취하기 위해서는 어떻게 해야 하는가
• 보호 대상인 특정 그룹이 역사적으로 소수인지 아닌지, 또는 현재 시점에서 피해의 대상이 되고 있는지 여부를, 피해의 심각성을 평가하는 데 어떻게 고려해야 하는가, 또는 그렇게 해야 하는가
• 다른 그룹 간에서 작용하는 힘의 관계에 어떻게 대응해야 하는가

와 같은 질문에 대답할 수 있을 것으로 기대하고 있습니다. 이는 바로 ‘미묘한 뉘앙스’와 ‘중요한 지역 및 역사적 배경’을 이해하고 있는 것이 필요한 어려운 문제이며, 그런 능력이 갖추어져 있어야만 실현 가능한 것이지만, 트위터는 앞으로도 규칙의 확장을 신중하면서도 효과적으로 진행하고자 합니다.

삭제와 계정 동결

정책 위반에 대한 처벌을 결정할 때, 트위터는 해당 위반의 심각성이나 위반자의 과거 위반 이력 등 다양한 요인을 고려한다고 합니다. 예를 들어, 위반자에게 위반하는 콘텐츠의 삭제를 요청하고, 다시 트윗할 수 있을 때까지 일정 기간 독서 전용 모드로 사용하도록 요구하는 경우가 있습니다. 그 후의 위반에 대해서는, 독서 전용 모드 기간이 연장되고, 최종적으로는 계정이 영구 동결될 수 있습니다. 계정의 활동이 주로 공격적인 행동만 있는 경우, 또는 강렬한 신체적 위협을 공유한 것으로 판단되는 경우, 트위터는 최초의 조사에서 계정을 영구 동결할 수도 있습니다.

이번 개정에 따라, 새로운 트윗뿐만 아니라 과거의 트윗에 대해서도 위반 신고가 있을 경우, 삭제가 의무화됩니다. 그러나, 2020년 3월 6일(서기) 이전에 게시된 트윗에 대해 위반 신고가 있을 경우, 위반에 해당하는 트윗을 삭제하는 의무는 발생하지만, 계정이 동결되는 것은 없다고 명시되어 있습니다. 물론, 계정의 동결 대상이 되지 않는 것은 ‘규칙이 시행되기 이전의 게시물’이기 때문에, 3월 6일 이후에 위반 트윗을 게시한 경우는 엄격한 처벌(계정의 동결, 중지)의 대상이 될 가능성이 있다는 것을 의미합니다.

가짜 미디어를 포함한 트윗에 대한 경고 라벨

‘혐오 행위에 대한 트위터 정책 업데이트’ 발표의 전날인 3월 5일, iOS 버전 트위터 앱의 ver.8.11 업데이트가 출시되었는데, 릴리스 노트에서 ‘혼란이나 손해를 초래할 가능성이 있는 조작된 이미지 또는 동영상을 포함한 트윗’에 대한 대책(조작된 미디어의 라벨 표시, 리트윗 전 경고 등)이 언급되어 있습니다.

‘트위터에서는 혼란이나 손해를 초래할 가능성이 있는 조작된 이미지 또는 동영상을 포함한 트윗이 있다는 것을 인지하고 있습니다. 3월 5일부터, 이러한 트윗을 표시하고, 그 배경 정보를 전달하는 라벨이 추가됩니다’라는 대책이 있지만, 해를 끼칠 가능성이 있는 ‘합성 또는 조작된 콘텐츠를 포함한 트윗’에는,

• 트윗에 라벨(조작된 미디어)이 표시됩니다
• 리트윗, ‘좋아요’ 전에 경고가 표시됩니다
• 트위터 상에서 해당 트윗이 표시되기 어려워지고, ‘추천’되지 않게 됩니다
• 가능한 경우, 배경 정보가 포함된 웹사이트로의 링크 등 추가 정보가 표시됩니다

등의 조치가 취해질 것입니다. 혐오 행위에 대한 정책의 업데이트와는 직접적인 관계는 없지만, 같은 타이밍이며, 트위터의 동향으로서, 흥미로운 것이라고 할 수 있습니다.

요약

트위터는 다양한 조치를 취하고 계속해서 발전하기 위해 노력하고 있는 것으로 보입니다. 이번 업데이트 발표문의 마지막 부분에는 “트위터는 앞으로도 글로벌 커뮤니티에 기여하고, 정책 및 제품 개발과 그 기능에 대해 위탁자 여러분의 의견을 확실히 반영하여 트위터를 구축해 나갈 것입니다. 트위터에서는 정책의 적용 범위를 확대할 계획입니다”라고 적혀 있습니다. 어떤 방향으로 나아갈 것인지, 앞으로도 트위터에 주목하고 싶습니다.