Twitch développe un outil pour lutter contre le cyberharcèlement

Twitch vient d’annoncer le lancement d’un outil pour permettre de détecter les utilisateurs malveillants sur sa plateforme, qui créent de nouveaux comptes anonymes pour revenir ensuite sur des chaînes qui les avaient pourtant bannis pour harcèlement en ligne.

La plateforme de jeux vidéo diffusés en live veut lutter contre le cyberharcèlement de certains de ses utilisateurs, qui font face depuis quelques mois à une vague de commentaires injurieux, racistes, sexistes ou homophobes. Cela consiste en des « raids » contre des créateurs de contenu sur Twitch comme des personnes non blanches ou appartenant à la communauté LGBTQ.

Ces personnes sont victimes de haine en ligne puisque les utilisateurs harceleurs inondent d’insultes ou d’images choquantes les fenêtres de chat de leurs victimes. Ces dernières peuvent bien entendu les bannir, sauf qu’il est possible de créer un nouveau compte pour pouvoir revenir sur une chaîne où l’on a été banni, pour pouvoir recommencer à harceler quelqu’un.

C’est pourquoi Twitch a annoncé ce mardi 30 novembre l’arrivée d’un nouvel outil pour détecter les utilisateurs en question. Baptisé « Suspicious User Detection », il sert à les identifier afin de pouvoir prendre des mesures contre eux. La plateforme de streaming de jeux vidéo explique que ce système est basé sur le machine learning (apprentissage automatique issu de l’intelligence artificielle).

Des fraudeurs « possibles » ou « probables »

« La détection d’utilisateurs suspects, optimisée par l’apprentissage automatique, est là pour vous aider à identifier et à empêcher les fraudeurs suspects bannis d’une chaîne de discuter avant qu’ils ne puissent perturber votre stream. » – Twitch

Par ailleurs, les fraudeurs seront distingués en deux catégories : « possibles » ou « probables ». Dans ce dernier cas, les messages ne sont pas publics dans le chat mais les modérateurs et le joueur pourront les voir, afin de pouvoir prendre des mesures contre eux, comme les bannir ou les surveiller. Les fraudeurs possibles, quant à eux, auront leurs messages affichés dans le chat mais seront signalés aux mods et au joueur pour qu’ils prennent des mesures si nécessaire.

Twitch explique que son outil est activé par défaut mais pourra être désactivé manuellement. Par ailleurs, la plateforme assure qu’aucun outil n’est fiable à 100% et qu’il peut y avoir des erreurs.

Twitch n’est pas le seul à vouloir lutter contre le cyberharcèlement. Hier, le réseau social Twitter annonçait l’interdiction de publier des photos et des vidéos de personnes sans leur consentement. Faute de quoi Twitter pourrait prendre des mesures pouvant aller jusqu’à la suspension d’un compte.

Suspicious User Detection, powered by machine learning, is here to help you identify and restrict suspected channel ban evaders from chatting before they can disrupt your stream.

Learn more here: https://t.co/01cCwnQZfw pic.twitter.com/QWVSnRPg1X

— Twitch (@Twitch) November 30, 2021