Cachez vos oignons, Facebook les trouve trop sexy !
La modération est un élément aujourd'hui très important sur les plate-forme des media sociaux. Il convient de ne pas laisser les utilisateurs publiés n'importe quoi, pour limiter les dérives au maximum. De nombreux algorithmes officient en ce sens.
L’un des grands avantages de l’automatisation, c’est que celle-ci vous permet de gagner énormément de temps. Malheureusement, parfois, cette automatisation peut mal fonctionner. En effet, à moins d’avoir conçu un système parfait, ce qui n’arrive jamais, la perfection n’existe pas, a fortiori dans les systèmes informatiques, il peut y avoir des ratés. Les équipes de The Seed Company by EW Gaze, à St John’s, à Terre-Neuve, en ont fait l’expérience tout récemment pour une simple histoire… d’oignons sur Facebook.
Les algorithmes de Facebook jugent des oignons trop sexy
Les oignons, c’est délicieux. Caramélisés, frits, crus, en sauce, émincés, en rondelles, peu importe. Ils apportent une petite touche toujours agréable à un plat. Mais les oignons ne sont pas sexy. C’est pourtant ce qu’ont décidé les algorithmes de modération de Facebook. Le réseau a refusé une publicité pour ces oignons, arguant qu’une fiche produit ne devrait pas être constituée “de manière sexuellement suggestive”. Bien sûr, il s’agissait d’une erreur. Une erreur flagrante des algorithmes automatiques en place sur la plate-forme de la firme de Menlo Park. Selon le directeur du magasin Jackson McLean, cela pourrait avoir un lien avec la forme ronde, la douceur des traits et peut-être même la couleur des oignons, autant de paramètres qui auraient conduit les filtres de Facebook à y voir là une poitrine ou une paire de fesses.
Un nouveau raté des algorithmes de modération, preuve que c’est encore très perfectible
Dans un communiqué transmis à la BBC, la directrice de la communication chez Facebook Canada, Meg Sinclair, déclarait : “Nous utilisons des technologies automatisées pour garder la nudité loin de nos applications mais parfois, celles-ci ne savent pas différencier un oignon Walla Walla d’un… vous savez quoi. Nous avons restauré la publicité en question et nous excusons sincèrement pour les désagréments causés au magasin.” Ce n’est pas la première fois que Facebook identifie mal le contenu d’un post, d’une publicité ou d’un groupe. Cela montre tout simplement qu’il y a encore beaucoup de travail pour améliorer ces filtres et les rendre plus précis.