Le Safety Check de Facebook piégé par de fausses informations

Le réseau social a invité les utilisateurs de Bangkok (Thaïlande) à indiquer qu'ils étaient en sécurité après une explosion qui ne s'était jamais produite.

C’était un risque prévisible. Lorsque Facebook avait annoncé que les “safety check” pourraient être activés par la communauté, les experts ont très vite point les risques que l’outil soit mal utilisé. C’est ce qui vient de se passer en Thaïlande. L’algorithme a détecté de fausses informations relatives à une explosion. Pendant une heure, les utilisateurs de Bangkok, la capitale du pays, ont été invités à signaler qu’ils étaient en sécurité.

Une explosion de 2015

C’est l’arroseur qui se retrouve arrosé. Facebook, grand relais de “fake news” a vu son outil “Safety Check” être trompé par de fausses informations. Celles-ci indiquaient qu’il y avait eu un attentat à Bangkok la capitale de Thaïlande. Les utilisateurs sur place ont alors reçu une notification les invitant à indiquer à leurs amis s’ils étaient en sécurité.

Il aura fallu une heure pour que l’erreur soit détectée et que le “Safety Check” soit désactivé. Il semble que l’origine de la fausse information soit un attentat qui a eu lieu en 2015. Une moto piégée avait alors explosé près du temple hindou d’Erawan.

Un “Safety Check” censé être plus fiable

Cet événement risque sans aucun doute de relancer  les critiques à l’égard de Facebook. L’entreprise américaine a été lourdement critiquée après les élections américaines pour son rôle de relais de fausses informations. Pour beaucoup, le réseau social aurait aidé à l’élection de Donald Trump.

Facebook avait annoncé dans la foulée mettre en place de nouveaux processus de vérification. Mais dans le même temps, laissait le contrôle du “Safety Check” aux utilisateurs et à un algorithme. En cas d’urgence, une entreprise tierce est censée proposer aux membres du réseau social concerné de l’activer. S’ils l’ignorent, c’est que la menace n’est pas urgente et le “Safety Check” est donc désactivé. Il semblerait que son système ne soit pas encore totalement au point.