Facebook révèle par erreur l’identité de ses modérateurs à des terroristes potentiels

Les profils de 1000 modérateurs ont été exposés par une faille dans le système de notifications du réseau social.

Une fois de plus, la politique de modération de Facebook se retrouve au cœur de la polémique. Mais cette fois, ce n’est pas à cause d’une œuvre d’art censurée à tort ou au contraire, de propos  haineux laissés en ligne sur la plateforme.

Le Guardian nous révèle en effet que les profils d’au moins 1000 membres des équipes de modérations de Facebook ont pu être révélés à des groupes faisant l’apologie du terrorisme.

Facebook et ses sous-traitants concernés

C’est un simple bug dans le logiciel de modération de Facebook qui a potentiellement mis en danger la vie de plusieurs personnes. À l’époque, lorsqu’un modérateur mettait hors-ligne un profil ou un groupe Facebook faisant l’apologie du terrorisme, la personne ou l’administrateur page en question recevait une notification dans laquelle on trouvait le nom du modérateur en question. Son profil Facebook et ses informations personnelles étaient alors accessibles très simplement. Le bug a été découvert, car les modérateurs concernés commençaient à recevoir des demandes d’amis de la part des personnes qu’ils venaient de modérer.

Plus de 1000 modérateurs travaillant chez Facebook ou pour ses sous-traitants ont été touchés par cette faille. Parmi eux, 40 travaillaient dans les équipes de lutte contre le terrorisme et certains courent un grand danger.

Un modérateur doit s’exiler

C’est l’un de ces employés affectés à la division de lutte contre le terrorisme qui a témoigné auprès du Guardian. Ce dernier, qui travaillait en Irlande et est d’origine irakienne, indique que son profil a pu être consulté par des sympathisants de l’état islamique.

Il a donc dû s’exiler 5 mois en Europe de l’Est, mais a été contraint de revenir en Irlande faute de moyen. Il craint désormais pour sa vie et a lancé une procédure auprès d’une commission d’indemnisation chargée d’étudier son cas et de savoir si son entreprise et Facebook peuvent être jugés responsables de mise en danger de la vie d’autrui.