Face à la problématique du harcèlement en ligne et de raids haineux pouvant cibler une chaîne, la plateforme de streaming vidéo Twitch annonce un outil Suspicious User Detection pour aider à détecter des utilisateurs qui tentent de contourner un bannissement.
La détection de ces utilisateurs suspects se fera en s'appuyant sur du machine learning. Dans le collimateur, des utilisateurs qui créent par exemple de nouveaux comptes, reviennent dans des discussions pour poursuivre leur comportement abusif.
En se basant sur l'analyse de tels signaux et avec une modélisation obtenue via de précédents bannissements, l'outil fera une distinction entre des utilisateurs qui contournent possiblement ou probablement un bannissement.
Une IA qui ne bannit pas par elle-même
Cette distinction aura une influence sur des messages qui seront envoyés ou pas, et pour leur affichage public ou non. Gage aux créateurs et modérateurs alertés de surveiller la situation pour prendre des mesures le cas échéant, et avec un ajustement possible de l'outil.
Suspicious User Detection, powered by machine learning, is here to help you identify and restrict suspected channel ban evaders from chatting before they can disrupt your stream.
— Twitch (@Twitch) November 30, 2021
Learn more here: https://t.co/01cCwnQZfw pic.twitter.com/QWVSnRPg1X
" Aucun apprentissage automatique ne sera jamais précis à 100 %, ce qui signifie qu'il existe une possibilité de faux positifs ou de faux négatifs. C'est pourquoi Suspicious User Detection ne bannit pas automatiquement tous les fraudeurs possibles ou probables ", souligne Twitch.
L'été dernier, quelques streamers populaires avaient déclenché un mouvement de protestation contre la prolifération de messages haineux, racistes et le harcèlement sur la plateforme dans le giron d'Amazon. L'outil Suspicious User Detection sera activé par défaut sur toutes les chaînes Twitch.
