Dans un monde toujours plus connecté, les plates-formes sur lesquelles il est possible de partager ses pensées et opinions se multiplient. C’est une bonne chose. C’est aussi une mauvaise chose. Certaines publications peuvent être considérées comme haineuses ou racistes ou autre. Et elles sont malheureusement très facilement partageables. Sciemment ou non. Il suffit d’un clic pour propager un message ou une information, que le contenu soit bienveillant ou non, avéré ou non. Facebook le sait et annonce aujourd’hui vouloir aller plus loin.
Facebook rêve d’un algorithme basé sur l’intelligence artificielle
Avec une base d’utilisateurs très souvent énorme, les réseaux sociaux comme Facebook ont pour devoir de veiller à endiguer au maximum la propagation de ce genre de contenu. C’est pour cette raison que la firme de Menlo Park utilise l’intelligence artificielle. Celle-ci vient prêter main forte dans la détection de discours haineux et de fausse information. Facebook veut créer une IA qui serait en mesure de détecter des choses comme des images quasiment identiques, qui sembleraient différentes à l’œil humain mais qui seraient identiques pour l’ordinateur. C’est de cette même manière que certains utilisateurs contournent actuellement le système pour publier des images très légèrement altérées.
pour détecter les images contenant de fausses informations ou des discours haineux
Pour ce faire, Facebook a toujours besoin de l’aide de modérateurs humains. Ceux-ci doivent identifier en premier lieu une image comme contenant de fausses affirmations ou un discours haineux. Ensuite seulement, le système va pouvoir rechercher des images quasiment identiques et les modérateurs pourront les déclarer comme étant néfastes. L’idée est que l’IA applique la même logique, la même approche que celle d’un modérateur humain, permettant à Facebook de procéder à bien plus grande échelle et plus rapidement. C’est dans cette optique que Facebook annonce aussi la création du Hateful Meme Challenge. Si vous pouvez développer un système d’intelligence artificielle capable d’identifiant avec précision de tels mèmes, vous pourriez recevoir jusqu’à 100 000$ de la part de Facebook. Tous les détails sont à retrouver sur le blog de Facebook.
