Facebook publie la 7e édition de son rapport de transparence trimestriel. Il porte sur la période du troisième trimestre 2020 et couvre une douzaine de catégories sur Facebook et une dizaine sur Instagram.

Une nouveauté du rapport est la publication de données en lien avec ce qui est introduit comme la prévalence des contenus haineux sur Facebook. À l'échelle mondiale, cette prévalence des contenus haineux est estimée de 0,10 % à 0,11 %.

Autrement dit et sur par exemple un ensemble de 10 000 contenus vus par des utilisateurs du réseau social, 10 à 11 concernent des contenus haineux. " Ce nouvel indicateur va désormais permettre, en toute transparence, de mieux suivre les progrès réalisés en matière de modération. "

L'effort de transparence revendiqué est évidemment louable, voire nécessaire pour répondre à des critiques. Toutefois, ce taux de prévalence qui semble bien bas en apparence est difficile à appréhender. Le réseau social grossit toujours plus et avec lui le nombre de publications diverses. Sans compter la question de la caractérisation même d'un contenu haineux.

L'IA à la manœuvre pour accélérer la modération

De juillet à septembre 2020, le groupe de Mark Zuckerberg souligne avoir modéré 22,1 millions de contenus haineux sur Facebook. Sur Instagram, ce sont 6,5 millions de contenus haineux qui ont été modérés. Le taux d'identification de manière proactive (sans signalement d'un utilisateur) a été de 95 %.

facebook-detection-proactive-contenus-haineux-evolution
Intimement lié aux progrès et aux investissements en intelligence artificielle, le taux de détection automatique des discours haineux a bondi de manière spectaculaire au fil des années (voir ci-dessus).

En 2017, il était de seulement 24 % sur Facebook. Sur Instagram, la progression sensible entre le 2e trimestre et le 3e trimestre 2020 est imputée à une extension de la technologie et son amélioration pour les langues anglaise, arabe et espagnole.