Instagram utilise l’intelligence artificielle pour filtrer les commentaires offensants

Si beaucoup de choses sont possibles sur Internet, tout n'est pas permis. Pourtant, malheureusement, le web peut rapidement devenir toxique. Certains services œuvrent à améliorer la situation.

Le web peut parfois être très toxique. Les gens peuvent y exprimer leurs opinions de manière très agressive. Parfois trop. Et cela peut virer au cyberharcèlement. C’est d’autant plus vrai sur des plates-formes basées sur l’image comme Instagram. Le service tente aujourd’hui de filtrer les commentaires offensants grâce à l’intelligence artificielle.

Instagram passe à l’intelligence artificielle pour filtrer les commentaires offensants

La plate-forme déploie actuellement une nouvelle fonctionnalité propulsée par l’IA qui informera les utilisateurs si leur commentaire est considéré comme offensant avant qu’il ne soit publié. Et d’offrir donc la possibilité de modifier pour être davantage respectueux. Instagram affirme que les premiers résultats des tests sont très positifs, les utilisateurs n’hésitant pas à reformuler pour être moins blessants.

et teste la restriction des utilisateurs toxiques

En parallèle de cette fonctionnalité, Instagram déploie une option baptisée “Restrict”. Une fois un utilisateur “restreint”, ses commentaires sur un post ne seront visibles que de cette personne. Les utilisateurs pourront décider manuellement de rendre visibles les commentaires des utilisateurs “restreints” s’ils le désirent. Et les “restreints” ne pourront pas non plus voir quand l’utilisateur est actif sur Instagram ou s’ils ont lu leurs messages directs.