Instagram traque le cyberharcèlement via les photos grâce à une nouvelle intelligence artificielle

Le service pousse encore plus loin sa lutte contre le cyberharcèlement dont sont victimes les plus jeunes.

Le cyberharcelement est malheureusement très présent sur les réseaux sociaux. Des services comme Facebook ou Twitter font tout pour lutter contre. Mais c’est le poulain du premier cité qui nous intéresse aujourd’hui puisqu’une nouvelle IA a été programmée par Instagram pour lutter contre les photos haineuses, beaucoup plus compliquées à repérer. Autant dire que la plate-forme passe un cran au dessus dans la lutte contre le cyberharcèlement : reste à savoir si ce système sera performant et ne bannira pas des publications qui n’enfreignent pas les règles.

Une intelligence artificielle à l’épreuve des photos

Importuner via une photo sur Instagram arrive très régulièrement. Avec la démocratisation des logiciels de montage, photographies grâce à nos smartphones, n’importe qui peut anonymement en harceler une autre en ligne. Et avec sa grande communauté d’utilisateurs, difficile pour Instagram de détecter tous les comportements malveillants. Fort heureusement, le poulain de Facebook a développé une IA basée sur le machine learning.

Mais qu’est-ce que le machine learning ? Comme son nom l’indique, le but de cette intelligence artificielle est de progresser, apprendre, pour détecter dans le futur encore plus efficacement les comportements contraires à la bonne utilisation de Facebook – ici le cyberharcèlement. En plus des clichés, ce seront les légendes qui seront analysées pour détecter du contenu offensant. Mais ce n’est pas tout puisque Instagram a dévoilé deux nouveaux filtres, encore une fois contre le harcèlement.

Le premier permet d’enfin filtrer les commentaires haineux sur la vidéo en direct, source de beaucoup de cyberharcèlement. Le second permet d’également masquer le contenu malveillant sur les Stories.

A noter que Instagram précise que ces filtres se destinent principalement aux jeunes, cibles principales de ce harcèlement.