Twitch : une IA pour détecter ceux qui contournent un bannissement

Le par Jérôme G.  |  4 commentaire(s)
twitch

Grâce à du machine learning, Twitch veut aider les créateurs et modérateurs à détecter des utilisateurs qui contournent un bannissement.

Face à la problématique du harcèlement en ligne et de raids haineux pouvant cibler une chaîne, la plateforme de streaming vidéo Twitch annonce un outil Suspicious User Detection pour aider à détecter des utilisateurs qui tentent de contourner un bannissement.

twitch

La détection de ces utilisateurs suspects se fera en s'appuyant sur du machine learning. Dans le collimateur, des utilisateurs qui créent par exemple de nouveaux comptes, reviennent dans des discussions pour poursuivre leur comportement abusif.

En se basant sur l'analyse de tels signaux et avec une modélisation obtenue via de précédents bannissements, l'outil fera une distinction entre des utilisateurs qui contournent possiblement ou probablement un bannissement.

Une IA qui ne bannit pas par elle-même

Cette distinction aura une influence sur des messages qui seront envoyés ou pas, et pour leur affichage public ou non. Gage aux créateurs et modérateurs alertés de surveiller la situation pour prendre des mesures le cas échéant, et avec un ajustement possible de l'outil.

" Aucun apprentissage automatique ne sera jamais précis à 100 %, ce qui signifie qu'il existe une possibilité de faux positifs ou de faux négatifs. C'est pourquoi Suspicious User Detection ne bannit pas automatiquement tous les fraudeurs possibles ou probables ", souligne Twitch.

L'été dernier, quelques streamers populaires avaient déclenché un mouvement de protestation contre la prolifération de messages haineux, racistes et le harcèlement sur la plateforme dans le giron d'Amazon. L'outil Suspicious User Detection sera activé par défaut sur toutes les chaînes Twitch.

  • Partager ce contenu :
Complément d'information

Vos commentaires

Trier par : date / pertinence
FRANCKYIV away Absent VIP icone 56380 points
Premium
Le #2150562
Vous inquiétez pas, bientôt ils seront banni définitivement grâce à Windows 11 ...
Safirion online Connecté VIP icone 41632 points
Le #2150582
FRANCKYIV a écrit :

Vous inquiétez pas, bientôt ils seront banni définitivement grâce à Windows 11 ...


?
FRANCKYIV away Absent VIP icone 56380 points
Premium
Le #2150598
Safirion a écrit :

FRANCKYIV a écrit :

Vous inquiétez pas, bientôt ils seront banni définitivement grâce à Windows 11 ...


?


Adresse Web :
https://jeux.developpez.com/actu/318350/Windows-11-le-logiciel-anti-triche-de-Riot-Games-necessitera-un-TPM-et-un-demarrage-securise-l-erreur-VAN9001-se-produirait-lorsqu-on-essaye-de-jouer-a-Valorant-sans-TPM2-0/

Suffira de peu d'adaptations ...
Safirion online Connecté VIP icone 41632 points
Le #2150626
FRANCKYIV a écrit :

Safirion a écrit :

FRANCKYIV a écrit :

Vous inquiétez pas, bientôt ils seront banni définitivement grâce à Windows 11 ...


?


Adresse Web :
https://jeux.developpez.com/actu/318350/Windows-11-le-logiciel-anti-triche-de-Riot-Games-necessitera-un-TPM-et-un-demarrage-securise-l-erreur-VAN9001-se-produirait-lorsqu-on-essaye-de-jouer-a-Valorant-sans-TPM2-0/

Suffira de peu d'adaptations ...



icone Suivre les commentaires
Poster un commentaire