Comme attendu, Meta confirme l'arrivée d'un outil de contrôle de la nudité sur Instagram et pour la fonctionnalité de messages intégrée à l'application. Elle aura pour but de flouter automatiquement les contenus comportant de la nudité dans les messages (DM) et de décourager l'envoi de tels messages.
Ce contrôleur de nudité sera activé par défaut pour les utilisateurs mineurs d'Instagram. Pour les utilisateurs majeurs, une notification les incitera à procéder à son activation. Le filtre de nudité appliqué donnera le choix d'une visualisation ou non.
La protection contre la nudité dans les DM d'Instagram sera d'abord testée dans quelques pays le mois prochain, avant d'envisager un déploiement ultérieur à l'échelle mondiale.
De l'IA en local
La procédure a recours à du machine learning sur l'appareil pour analyser si une image envoyée dans un message contient de la nudité.
" Comme les images sont analysées sur l'appareil lui-même, la protection contre la nudité fonctionnera dans les discussions chiffrées de bout en bout, où Meta n'aura pas accès à ces images, à moins que quelqu'un ne choisisse de nous les signaler ", souligne Meta.
La sensibilité de l'outil fera sans nul doute l'objet d'une attention particulière, en raison d'un risque de faux positifs.
Face au risque de sextorsion
Meta place son initiative dans le contexte de la sextorsion. " La fonctionnalité est conçue non seulement pour protéger les personnes contre la nudité non désirée dans leurs messages, mais aussi pour les protéger des escrocs qui envoient des images de nudité pour inciter les personnes à envoyer leurs propres images en retour. "
Avec la protection active, les utilisateurs d'Instagram recevant une image contenant de la nudité verront également un avertissement pour les prévenir de ne pas sentir d'obligation de réponse.
Plus globalement, un effort de sensibilisation sur les risques inhérents en cas de partage d'images intimes sera accentué. Avec forcément de l'IA, des technologies supplémentaires seront renforcées pour empêcher les interactions entre des adultes malveillantes et des mineurs.
