Alors que Facebook avance lentement dans la lutte contre les discriminations, Twitch vient d’annoncer des premières actions contre les auteurs d’actes haineux.

Depuis trois ans déjà, Facebook et Paris travaillent ensemble pour mettre en place une série de mesures contre la haine sur le réseau social. Mais Zuckerberg, le patron du géant américain, avait fait savoir à Emmanuel Macron qu’il désirait que la France revoit sa copie : Facebook veut bien se soumettre à une législation spécifique, mais ne veut pas avoir à trop agir contre le racisme et la haine sur les réseaux sociaux. Pendant que les discussions se poursuivent, et alors que Facebook est toujours accusé de laisser libre court aux harceleurs, Twitch, dans l’œil du cyclone, a décidé d’agir.

Dans le cadre de sa stratégie pour solutionner le phénomène des « raids haineux », la plateforme de streaming pour les gamers d’Amazon a en effet porté une plainte contre de nombreux streamers. L’entreprise cherche ainsi à soutenir la capacité des utilisateurs à modérer les propos discriminatoires.

Dans une plainte, datée du 9 septembre, la plateforme de streaming pour les jeux vidéo, Twitch, s’en prend à plusieurs streamers. Parmi les accusés, on retrouve Scott Fisher alias « jschlatt », un islamophobe et raciste notoire qui avait fait la une des journaux en 2018 et 2020. Twitch accuse aussi les streamers « CruzzControl » et « CreatineOverdose » d’organiser des « raids automatisés à caractère haineux ».

Le terme « raid » utilisé dans le contexte des plateformes de streaming des jeux vidéo, comme YouTube Gaming et Twitch, se réfère au fait d’inviter les spectateurs d’un stream à rejoindre un autre. Il s’agissait, pendant des années, d’un geste amical promouvant l’entraide entre les streamers. Seulement voilà, à cause des agissements d’une partie des créateurs de contenu, à l’instar de ceux attaqués en justice par Twitch, le message est devenu totalement différent.

La communauté Twitch avait organisé, le 1e septembre, une journée de boycott, exigeant que Twitch s’attaque à ce phénomène. La plateforme a été remarquablement politiquement correcte en raison d’une tradition entre les spectateurs et les créateurs, dont une grande partie vit des revenus de la publicité sur les streams.

L’islamophobie sur Twitch

Les premiers incidents du genre ont eu lieu en 2017, lorsqu’une faille dans le système de modération automatique a permis à plusieurs personnes d’inonder le chat des streamers de messages racistes. Malgré une solution immédiate, Twitch a connu la montée de la même tendance un an plus tôt. En effet, les streamers promeuvent leur activité en lançant automatiquement des notifications sur Twitter et YouTube. Or, Twitch ne contrôle pas le contenu des promotions, qui apparaissent dans la miniature représentant le stream. Ainsi donc, « jschlatt » avait, en 2018, publié sa photo accompagnée du message « voici le visage d’Allah ». Il a écopé d’une suspension sur Twitch, mais YouTube et Twitter ont gardé le message pendant plus d’un an avant d’intervenir.

D’autres streamers visés par la plainte de Twitch ont « attaqué les streamers en inondant leur tchat avec des comptes Twitch gérés par des bots et proférant des propos racistes, sexistes et homophobes », explique la plainte de Twitch.

Des campagnes de haine un peu trop organisées

Pendant une grande partie du dernier mois et demi, Twitch a mené cette bataille contre les « hate raids ». Certains la considèrent « perdue d’avance ». Ces attaques voient des individus malveillants utiliser une armée de robots pour spammer le chat d’un streamer avec un langage haineux, et ils ciblent presque toujours des créateurs de communautés marginalisées.

Dans la plainte, Twitch allègue que CruzzControl est responsable d’un réseau d’environ 3 000 robots qui ont été impliqués dans des raids haineux. En plus de submerger ces chaînes de spams racistes, homophobes et sexistes, la société affirme que CruzzControl a montré comment les robots fonctionnent afin que d’autres puissent les déployer dans le même but. Concernant CreatineOverdose, la société affirme qu’elle les a directement liés à plusieurs incidents, dont un épisode du 15 août dans lequel ils ont affirmé qu’ils étaient membres du mouvement suprématiste KKK.

« Nous espérons que cette plainte fera la lumière sur l’identité des individus à l’origine de ces attaques et des outils qu’ils exploitent, les dissuadera d’adopter des comportements similaires auprès d’autres services et contribuera à mettre fin à ces attaques viles contre les membres de notre communauté », a ajouté un porte-parole de Twitch.

Twitch ne s’arrêtera pas à la plainte en justice

La société a déclaré que le procès n’est qu’une partie de la réponse qu’elle a prévue contre les raids, avec davantage d’actions au niveau de la plate-forme à venir. « Nos équipes ont travaillé sans relâche pour mettre à jour nos systèmes de détection proactive, traiter les nouveaux comportements au fur et à mesure qu’ils apparaissent et finaliser de nouveaux outils de sécurité proactifs au niveau des canaux que nous développons depuis des mois », a déclaré la même source.

Bien que l’action en justice n’ait pas encore mis fin aux raids haineux, certaines des personnes les plus touchées par celles-ci disent que c’est un pas dans la bonne direction de la part de l’entreprise. « J’ai bon espoir », a déclaré RekItRaven, un streamer connu. « Les personnes qui sont derrière cela doivent être tenues responsables de leurs actes. Ils ont terrorisé des centaines, voire des milliers de personnes. Si cela devait se produire dans un endroit physique, nous nous attendrions à la même chose. Cela ne devrait pas être différent en ligne », explique le streamer.