Wijziging van Twitter's regels tegen haatdragend gedrag en verwijdering / bevriezing van accounts

Op 6 maart 2020 (Heisei 32) heeft Twitter zijn regels met betrekking tot haatdragend gedrag herzien en een ‘Update van het Twitter-beleid tegen haatdragend gedrag’ aangekondigd. Door deze herziening zijn tweets die de menselijkheid van anderen ontkennen op basis van leeftijd, handicap of ziekte voortaan verboden. Zelfs als er geen specifieke dreiging van geweld tegen een bepaald individu in de tweet is opgenomen, kan er bij een melding om verwijdering worden gevraagd. Afhankelijk van de situatie en de context kan het account ook worden opgeschort.

https://monolith.law/reputation/deletion-twitter-tweets[ja]

Herziening van de regels omtrent haatdragend gedrag in het verleden

Twitter heeft in het verleden al meerdere keren de regels omtrent haatdragend gedrag herzien. Ze hebben aangegeven dat ze dit hebben gedaan “door meningen te verzamelen van externe adviesraden en dergelijke bij het implementeren van veranderingen en ideeën op basis van het beleidswijzigingsproces”.

Bijvoorbeeld, in december 2017 (Heisei 29), hebben ze het “beleid omtrent geweld en fysieke schade” uitgebreid. Ze hebben toegevoegd aan de bestaande regels die betrekking hebben op “het verbod op gewelddadige bedreigingen, ernstige fysieke gevaren gericht op individuen of groepen, en gedrag dat de dood of ziekte wenst”. Ze hebben accounts verboden die gerelateerd zijn aan groepen die geweld gebruiken of aanmoedigen. Dit omvat het aanmoedigen van gewelddadig gedrag en het nabootsen van daders, en het richten op mensen die tot bepaalde groepen behoren. Als zulke dingen gebeuren, wordt gevraagd om de betreffende tweets te verwijderen, en accounts die herhaaldelijk overtredingen begaan worden permanent geblokkeerd. Voorbeelden van verboden afbeeldingen op dat moment waren:

• Symbolen gerelateerd aan historische haatgroepen (zoals het hakenkruis van de nazi’s)
• Afbeeldingen die individuen op een onmenselijke manier behandelen, of afbeeldingen die zijn bewerkt om symbolen van haat te bevatten (zoals het bewerken van individuele afbeeldingen om ze eruit te laten zien als beesten)
• Afbeeldingen die zijn bewerkt om symbolen van haat te bevatten, of om te verwijzen naar massamoorden gericht op mensen in bepaalde beschermde categorieën zoals gedefinieerd in sommige landen of regio’s (zoals het bewerken van individuele afbeeldingen om de ster van David in te voegen, wat doet denken aan de Holocaust)

Dit waren enkele van de voorbeelden die werden gegeven.

In 2018 heeft Twitter een breed scala aan meningen overwogen en feedback gevraagd aan gebruikers over hoe het beleid verschillende gemeenschappen en culturen zou kunnen beïnvloeden. Op basis van meer dan 8.000 reacties uit meer dan 30 landen wereldwijd, hebben ze overwogen en op 11 juli 2019 (Reiwa 1) hebben ze tweets verboden die de menselijkheid van anderen ontkennen op basis van religie.

Herziening van de regels tegen haatdragend gedrag

Met deze herziening worden tweets die “de menselijkheid van anderen ontkennen op basis van leeftijd, handicap of ziekte” verboden. De toevoeging van “ziekte” wordt gezien als een maatregel tegen de verwachte toename van discriminerende tweets gericht op mensen die besmet zijn met het nieuwe coronavirus (COVID-19), te midden van groeiende angst rond de ziekte.

Voorbeelden van verboden tweets zijn:

• “Alle mensen in (leeftijdsgroep) zijn parasieten als vliegen en verdienen geen enkele vorm van hulp”
• “Mensen met (handicap) zijn minder dan menselijk en zouden niet in het openbaar moeten verschijnen”
• “Patiënten met (ziekte) zijn schadelijke beesten die iedereen om hen heen besmetten”

In de toekomst kunnen uitspraken die de menselijkheid ontkennen op basis van leeftijd, ziekte of handicap, indien gemeld, worden verwijderd en afhankelijk van de situatie en context kan er een risico zijn op onmiddellijke account opschorting. Twitter heeft altijd discriminatie, aanvallen en aanzetten tot geweld op basis van ras, nationaliteit, geboorteplaats, geslacht, seksuele geaardheid, genderidentiteit, geloof, leeftijd, ziekte en handicap verboden.

Het verbod op “onmenselijke behandeling” is een regel die is ingevoerd om problemen met haatdragend gedrag en intimidatie op Twitter, en met name aanzetten tot en aanvallen op Twitter die leiden tot criminele activiteiten en geweld in de echte wereld, te beteugelen. Volgens Twitter is het duidelijk geworden uit onderzoek door haat- en geweldonderzoekers dat gedrag dat mensen op basis van hun kenmerken “als insecten” degradeert, zelfs als het geen directe dreiging of aanzet tot geweld tegen specifieke individuen of groepen is, de indruk wekt dat onmenselijke behandeling van anderen wordt getolereerd door er dagelijks mee om te gaan, en dat dit daadwerkelijk geweld bevordert.

In de toekomst zullen uitspraken die de menselijkheid ontkennen (dehumaniseren) op basis van dergelijke kenmerken, zoals tweets die mensen van een bepaalde leeftijdsgroep of mensen die besmet zijn met een ziekte vergelijken met schadelijke insecten, worden verwijderd, zelfs als ze geen specifieke dreiging van geweld tegen een specifiek individu bevatten. Wat Twitter het meest waardeert, is het aanpakken van het reële risico op fysieke schade buiten Twitter, en onderzoek heeft aangetoond dat woorden die de menselijkheid ontkennen dit risico vergroten.

https://monolith.law/reputation/crime-on-twitter[ja]

Waarom deze categorieën?

Volgens feedback die Twitter in 2018 (Heisei 30) van gebruikers ontving, waren de meest voorkomende verzoeken:

• Verduidelijking van de vereisten
• Beperking van de doelgroep
• Consistente maatregelen nemen

Naar verluidt waren dit de belangrijkste punten.

‘Verduidelijking van de vereisten’ betekent dat het beleid gedetailleerder moet worden gedefinieerd, meer voorbeelden van overtredingen moeten worden gegeven, en er moet worden uitgelegd wanneer en hoe de context in overweging wordt genomen. Het is belangrijk om deze feedback op te nemen bij het aanpassen van de regels en om meer gedetailleerde uitleg te geven om de regels te verduidelijken.

‘Beperking van de doelgroep’ betekent dat de term ‘identificeerbare groep’ te breed is. Er wordt voorgesteld om onderscheid te maken tussen taal die de menselijkheid ontkent en politieke groepen, haatgroepen en andere groepen die niet de mainstream zijn in de samenleving, en om de inhoud van tweets daarmee te verbinden. Bijvoorbeeld, het woord ‘monsters’ heeft een andere betekenis wanneer het wordt gebruikt door haatgroepen dan wanneer het wordt gebruikt in gesprekken tussen fans of vrienden die het onderling eens zijn. Het is echter een moeilijke kwestie om te beoordelen.

‘Consistente maatregelen nemen’ is natuurlijk belangrijk, maar er zijn zorgen geuit over het vermogen van Twitter om maatregelen uit te voeren met eerlijkheid en consistentie. Bij Twitter heeft het verantwoordelijke team een grondig trainingsproces opgezet dat over een lange periode loopt, en heeft het tijd besteed aan het bestuderen van praktijkvoorbeelden van mogelijke overtredingen van dit beleid.

Voordat deze herziening werd doorgevoerd, was er al een algemene regel die discriminatie en intimidatie op basis van leeftijd, geslacht, afkomst, genderidentiteit, enzovoort, verbood. Men zou kunnen denken dat het voldoende zou zijn om deze kenmerken toe te voegen aan de regel die ‘ontkenning van de menselijkheid’ verbiedt. Volgens Twitter was dit echter nodig omdat er veel feedback van gebruikers was op de bovengenoemde drie punten, en omdat er tijd nodig was om degenen die de regels handhaven te trainen om culturele nuances te begrijpen, op basis van praktijkvoorbeelden. Dit is nu mogelijk geworden.

Wereldwijde werkgroep van externe experts

Twitter heeft naar verluidt een “wereldwijde werkgroep van externe experts opgezet om te overwegen hoe om te gaan met toespraken die de menselijkheid ontkennen, gericht op complexere categorieën zoals ras, etniciteit en land van herkomst”. Deze groep zal in staat zijn om subtiele nuances, belangrijke regionale en historische achtergronden te begrijpen en uiteindelijk te beantwoorden op vragen zoals:

• Hoe beschermen we gesprekken binnen niet-mainstream groepen, inclusief het gebruik van termen die over het algemeen als discriminerend worden beschouwd?
• Hoe nemen we passende handhavingsmaatregelen binnen een passend bereik, rekening houdend met de achtergrond en de ernst van de overtreding?
• Hoe moeten we rekening houden met het feit dat bepaalde beschermde groepen historisch gezien een minderheid zijn of momenteel het doelwit zijn van schade bij het beoordelen van de ernst van de schade, en moeten we dat doen?
• Hoe moeten we omgaan met machtsverhoudingen tussen verschillende groepen?

Dit zijn precies de moeilijke vragen die een begrip van “subtiele nuances” en “belangrijke regionale en historische achtergronden” vereisen, en die alleen kunnen worden gerealiseerd als die vaardigheden aanwezig zijn. Twitter wil echter doorgaan met het zorgvuldig en effectief uitbreiden van zijn regels.

Verwijdering en account opschorting

Twitter neemt verschillende factoren in overweging bij het bepalen van sancties voor beleidsovertredingen, zoals de ernst van de overtreding en de overtredingsgeschiedenis van de overtreder. Bijvoorbeeld, de overtreder kan worden gevraagd om de overtredende inhoud te verwijderen en gedurende een bepaalde periode in een alleen-lezen modus te gebruiken voordat hij weer kan tweeten. Bij verdere overtredingen kan de periode van de alleen-lezen modus worden verlengd en kan het account uiteindelijk permanent worden opgeschort. Als de activiteiten van een account voornamelijk agressief zijn, of als het wordt beschouwd als het delen van ernstige fysieke bedreigingen, kan Twitter het account ook permanent opschorten na het eerste onderzoek.

Met de recente herziening, als er een overtredingsrapport is voor niet alleen nieuwe tweets, maar ook voor oude tweets, is verwijdering verplicht. Echter, als er een overtredingsrapport is voor tweets die vóór 6 maart 2020 (Reiwa 2) zijn geplaatst, is er een verplichting om de overtredende tweet te verwijderen, maar het account zal niet worden opgeschort. Natuurlijk, de enige accounts die niet worden opgeschort zijn die met “posts voorafgaand aan de implementatie van de regels”, dus als je een overtredende tweet plaatst na 6 maart, kun je streng gestraft worden (account opschorting, stopzetting).

Waarschuwingslabels voor tweets met nepmedia

Op 5 maart, de dag voor de aankondiging van de “Update van het Twitter-beleid tegen haatgedrag”, werd de ver.8.11 update van de iOS-versie van de Twitter-app uitgebracht. In de release notes wordt vermeld dat er maatregelen (zoals het tonen van labels voor gemanipuleerde media, waarschuwingen voor retweeten, enz.) worden genomen tegen tweets die “gemanipuleerde afbeeldingen of video’s die mogelijk verwarring of schade kunnen veroorzaken” bevatten.

“Bij Twitter zijn we ons ervan bewust dat er tweets zijn die gemanipuleerde afbeeldingen of video’s bevatten die mogelijk verwarring of schade kunnen veroorzaken. Vanaf 5 maart zullen labels worden toegevoegd om dergelijke tweets te identificeren en achtergrondinformatie te verstrekken”, staat er in de maatregelen, maar voor tweets die mogelijk schadelijke “samengestelde of gemanipuleerde inhoud” bevatten, zullen de volgende maatregelen worden genomen:

• Een label (gemanipuleerde media) wordt weergegeven op de tweet
• Een waarschuwing wordt weergegeven voordat je retweet of ‘like’
• De betreffende tweet wordt minder zichtbaar op Twitter en wordt niet ‘aanbevolen’
• Indien mogelijk wordt aanvullende informatie weergegeven, zoals een link naar een website met achtergrondinformatie

Hoewel deze maatregelen geen directe relatie hebben met de update van het beleid tegen haatgedrag, is het interessant dat ze op hetzelfde moment plaatsvinden en kunnen worden gezien als een teken van de trends op Twitter.

Samenvatting

Het lijkt erop dat Twitter voortdurend maatregelen neemt en streeft naar evolutie. Aan het einde van de aankondiging van deze update staat: “Twitter zal blijven bijdragen aan de wereldwijde gemeenschap en de ontwikkeling van beleid en producten, en de functionaliteit ervan, op een manier die zeker de stem van onze gebruikers weerspiegelt. We zijn van plan om het bereik van ons beleid uit te breiden.” Het is interessant om te zien welke richting Twitter in de toekomst zal inslaan.