Microsoft va éradiquer le revenge porn et les deepfakes de Bing

Afin de protéger davantage ses utilisateurs, Microsoft met en place de nouvelles politiques sur Bing pour lutter contre la propagation de contenus compromettants, notamment les deepfakes et le revenge porn. Cette démarche vise à combattre les abus en ligne.

Microsoft prend des mesures contre les images intimes non consenties

Microsoft a récemment annoncé un partenariat avec StopNCII, une organisation dédiée à la suppression des images intimes non consenties, y compris les deepfakes et le revenge porn, de son moteur de recherche Bing. Cette initiative vise à protéger les victimes dont les images intimes ont été partagées sans leur consentement.

Comment fonctionne StopNCII ?

Quand une victime ouvre un « dossier » avec StopNCII, une « empreinte digitale » est créée à partir de l’image ou de la vidéo intime stockée sur l’appareil de l’individu. Cette empreinte, également appelée « hash« , est ensuite envoyée aux partenaires de l’industrie, qui peuvent rechercher des correspondances et supprimer les contenus enfreignant leurs politiques. Ce processus s’applique également aux deepfakes générés par l’IA.

Partenaires technologiques de StopNCII

Plusieurs autres sociétés technologiques se sont engagées à travailler avec StopNCII pour éliminer les images intimes partagées sans consentement. Parmi eux, on retrouve Meta qui a contribué à la création de l’outil et l’utilise sur Facebook, Instagram et Threads. TikTok, Bumble, Reddit, Snap, Niantic, OnlyFans, PornHub, Playhouse et Redgifs font également partie de cette initiative. Cependant, Google manque étrangement à l’appel. Bien qu’il dispose de ses propres outils pour signaler les images non consenties, son absence de cette plateforme centralisée pourrait représenter un fardeau supplémentaire pour les victimes.

Les mesures gouvernementales contre les deepfakes et le revenge porn

En plus des efforts de StopNCII, le gouvernement américain a pris des mesures cette année pour lutter spécifiquement contre les deepfakes et le revenge porn. L’Office américain du droit d’auteur a appelé à une nouvelle législation sur le sujet, et un groupe de sénateurs a cherché à protéger les victimes avec le NO FAKES Act, introduit en juillet dernier.