En bref
- Meta est critiqué pour avoir tardé à supprimer des deepfakes visant des personnes réelles.
- L’Oversight Board demande un meilleur signalement des contenus IA et une modération plus rapide.
- Meta devra répondre sous 60 jours à ces nouvelles recommandations.
Des deepfakes IA visant des personnes bien réelles, et derrière, une modération qui arrive trop tard. C’est le cœur des deux nouvelles décisions rendues par l’Oversight Board contre Meta. Et franchement, ça commence à faire beaucoup.
Deux vidéos, même problème de fond
Premier cas, une femme politique écossaise. Une vidéo synthétique la montre tenant des propos sur les réfugiés, avec une imitation de voix jugée réaliste par l’Oversight Board. La personne visée a expliqué que l’effet avait été « assez traumatisant ». Pas difficile de comprendre pourquoi.
L’autre affaire part d’une interview télévisée d’une bénévole qui faisait la promotion de l’éducation à la santé menstruelle. Après la diffusion initiale, des comptes sur plusieurs réseaux ont manipulé numériquement la séquence pour se moquer d’elle, jusqu’à rendre ces vidéos virales. Deux contextes différents, même mécanique, utiliser l’IA générative pour cibler quelqu’un.
Pourquoi l’Oversight Board estime que Meta rate le coche ?
Dans le dossier de la responsable politique, Meta n’a pas supprimé la vidéo lorsqu’elle a été signalée. L’entreprise a expliqué qu’aucune organisation partenaire de confiance ne l’avait remontée, et qu’elle ne semblait pas perturber un vote ou un autre processus. En plus, le post n’avait aucun label IA, apparemment parce que l’auteur n’avait pas indiqué lui-même l’origine artificielle de la vidéo.
Pour l’Oversight Board, ce contenu aurait dû sauter pour violation des règles sur les conduites haineuses, avec en prime un étiquetage clair et visible comme contenu généré par IA.
Dans le second cas, c’est encore plus moche. Le signalement puis l’appel ont été fermés automatiquement par Meta, alors que la vidéo n’était toujours pas marquée comme créée par IA. Le retrait n’est intervenu qu’après l’entrée en scène de l’Oversight Board, cette fois au titre des règles contre le harcèlement.
Un vieux contentieux qui commence à peser
Le groupe ne découvre pas le sujet hier. Il répète depuis un moment que les règles de Meta sont, selon ses mots, de façon constante et fondamentale, insuffisantes face à la montée des contenus IA sur ses plateformes.
Sa co-présidente, Pamela San Martin, va plus loin. Elle estime que des responsables politiques comme des citoyennes ordinaires sont de plus en plus visées par des deepfakes servant à harceler et à faire taire les femmes dans l’espace public. Et ces deux affaires montreraient un schéma plus large où les femmes exposées publiquement prennent plus de coups, entre désinformation et attaques ciblées. Là, le constat pique.
Ce que Meta doit faire maintenant
Le vrai test, il est là. Meta a déjà peu bougé sur ses étiquettes actuelles, souvent réduites à une petite bannière AI Info, et n’a pas accepté pas mal de recommandations précédentes sur ce terrain.
Cette fois, l’entreprise a 60 jours pour répondre aux nouvelles demandes de l’Oversight Board, dont une en particulier, prioriser pour examen les contenus probablement générés par IA quand ils sont signalés. Meta n’a pas répondu publiquement sur ces nouvelles critiques. Résultat, la balle est chez elle.
