Instagram vous alertera quand vous apprêterez à publier du contenu offensant

Les réseaux sociaux sont aujourd'hui extrêmement populaires. S'ils apportent effectivement un certain nombre d'avantages, ils ont aussi des inconvénients. Ce sont par exemples de parfaits vecteurs de contenus offensants. Des contenus contre lesquels il faut lutter.

Les réseaux sociaux sont accessibles à tout un chacun. Tout le monde peut publier n’importe quoi, ou presque, et parfois, les gens finissent par y dire des choses qu’ils ne pensent pas nécessairement, sans avoir conscience des conséquences que cela peut avoir sur les personnes concernées. Les plates-formes ont déjà certains garde-fous en place mais il est toujours possible de faire mieux. Instagram dévoile ainsi une nouvelle fonctionnalité visant à vous faire réfléchir à vos contenus avant publication.

Instagram utilise l’intelligence artificielle pour informer l’utilisateur d’un post offensant

Dans le cadre de ses efforts anti-harcèlement en ligne, la plate-forme vient en effet d’annoncer l’arrivée d’une nouvelle fonctionnalité, propulsée par l’intelligence artificielle, capable de détecter les commentaires et autres publications qui pourraient être perçues comme offensante. Lorsque le système détermine que ledit contenu est offensant, vous verrez apparaître les écrans ci-dessus. Ceux-ci vous avertiront que cela peut justement être pris comme une offense par la personne citée ou celles et ceux qui liront, et que, de fait, ce serait une mauvaise idée de le publier. Instagram vous propose même très logiquement de modifier votre post.

et offre la possibilité de modifier avant publication

Selon le communiqué officiel : « Aujourd’hui, lorsque quelqu’un écrit un commentaire pour un post quelconque et que notre intelligence artificielle détecte que ledit commentaire est potentiellement offensant, un message apparaîtra pour informer que ce contenu est très proche de ceux qui sont signalés comme étant du harcèlement. L’utilisateur aura alors la possibilité d’éditer son message avant qu’il ne soit publié. » Bien sûr, ce même utilisateur pourra décider de publier sans modification s’il le souhaite mais Instagram a au moins le mérite d’offrir la possibilité de reconsidérer la situation. L’avenir nous dira si les utilisateurs utilisent cette fonctionnalité ou non mais d’après les premiers tests, il semblerait que les résultats soient prometteurs.