Le Conseil de Surveillance de Meta va statuer sur les images à caractère sexuel générées par IA

Les affaires en question concernent des images explicites de deux personnalités publiques.

Une IA à l’origine de contenus polémiques

Depuis quelque temps, l’intelligence artificielle (IA) est en proie à de vives polémiques. Récemment, le Conseil de Surveillance de Meta se penche une nouvelle fois sur les réglementations du réseau social concernant le contenu généré par l’IA. La raison ? Deux cas de nature similaire portant sur des images explicites de personnalités publiques, créées par une IA, ont été acceptés par le Conseil de Surveillance.

Des images explicites générées par l’IA

Le monde du virtuel a vu émerger une nouvelle forme de harcèlement en ligne, sous la forme de « deepfake porn ». Il s’agit de représentations explicites de femmes célèbres, qu’elles soient politiciennes ou autres personnalités publiques, générées par intelligences artificielles. Ces images, de plus en plus présentes sur le web, ont suscité une vague de réglementations proposées. La question qui se pose est de savoir si les politiques de Meta et leur mise en pratique sont à même de gérer ces représentations explicites.

Efforts pour limiter le harcèlement en ligne

Le Conseil de Surveillance a pour but de transformer les règles en vigueur afin de limiter le harcèlement sur sa plateforme. Toutefois, pour protéger les personnes concernées, les deux figures publiques au cœur de l’affaire n’ont pas été nommées.

Parmi ces deux cas, le premier concerne un post Instagram montrant une femme indienne nue, fruit d’une création d’IA, publié par un compte dédié à ce genre d’images. Malgré un signalement de ce post à Meta, le dossier a été classé sans suite après 48h faute d’examen. Le second cas porte sur une publication Facebook montrant une image générée par IA, « représentant une femme nue avec un homme la palpant ».

Le Conseil de Surveillance comptabilise les commentaires du public sur ces deux affaires pendant les deux semaines à venir et se prononcera par la suite. Ces résultats pourraient toutefois avoir une influence significative sur les règles de Meta concernant le harcèlement en ligne à l’avenir.

Une équité dans la modération à évaluer

Le Conseil de Surveillance de Meta, via sa coprésidente Helle Thorning-Schmidt, a précisé vouloir comparer la modération des contenus en fonction des pays, car il semblerait que certains marchés et langues soient plus efficacement modérés que d’autres. Dans cette optique, une affaire provenant des États-Unis et une autre de l’Inde ont été choisies, afin de juger si « Meta protège toutes les femmes dans le monde de manière équitable ».