Le Safety Check de Facebook piégé par de fausses informations

Le réseau social a invité les utilisateurs de Bangkok (Thaïlande) à indiquer qu'ils étaient en sécurité après une explosion qui ne s'était jamais produite.

C’était un risque prévisible. Lorsque Facebook avait annoncé que les « safety check » pourraient être activés par la communauté, les experts ont très vite point les risques que l’outil soit mal utilisé. C’est ce qui vient de se passer en Thaïlande. L’algorithme a détecté de fausses informations relatives à une explosion. Pendant une heure, les utilisateurs de Bangkok, la capitale du pays, ont été invités à signaler qu’ils étaient en sécurité.

Une explosion de 2015

C’est l’arroseur qui se retrouve arrosé. Facebook, grand relais de « fake news » a vu son outil « Safety Check » être trompé par de fausses informations. Celles-ci indiquaient qu’il y avait eu un attentat à Bangkok la capitale de Thaïlande. Les utilisateurs sur place ont alors reçu une notification les invitant à indiquer à leurs amis s’ils étaient en sécurité.

Il aura fallu une heure pour que l’erreur soit détectée et que le « Safety Check » soit désactivé. Il semble que l’origine de la fausse information soit un attentat qui a eu lieu en 2015. Une moto piégée avait alors explosé près du temple hindou d’Erawan.

Un « Safety Check » censé être plus fiable

Cet événement risque sans aucun doute de relancer  les critiques à l’égard de Facebook. L’entreprise américaine a été lourdement critiquée après les élections américaines pour son rôle de relais de fausses informations. Pour beaucoup, le réseau social aurait aidé à l’élection de Donald Trump.

Facebook avait annoncé dans la foulée mettre en place de nouveaux processus de vérification. Mais dans le même temps, laissait le contrôle du « Safety Check » aux utilisateurs et à un algorithme. En cas d’urgence, une entreprise tierce est censée proposer aux membres du réseau social concerné de l’activer. S’ils l’ignorent, c’est que la menace n’est pas urgente et le « Safety Check » est donc désactivé. Il semblerait que son système ne soit pas encore totalement au point.