Google dévoile de nouvelles stratégies pour freiner les deepfakes explicites

Google a modifié son moteur de recherche pour restreindre les résultats relatifs à l'imagerie non consensuelle.

Google à l’assaut des deepfakes non consentis

Dans le contexte d’une surabondance de deepfakes non consentis sur la toile, le géant de la technologie Google présente une solution pour faire face à ce problème. En effet, ces images et vidéos manipulées, souvent au détriment de célébrités féminines, ont créé un défi complexe pour les moteurs de recherche. Elles apparaissent même lorsque les personnes ne cherchent pas ce type de contenu.

Mise à jour des systèmes de classement

La riposte de Google a été annoncée dans une publication de blog. Celle-ci précise que des mises à jour des systèmes de classement ont été effectuées afin de limiter le contenu explicite fictif issu de nombreuses recherches. Emma Higham, responsable produit chez Google, précise que lorsque des termes spécifiques sont utilisés pour rechercher des deepfakes non consentis, le système de classement privilégie le contenu sérieux tel que les articles de presse lorsqu’il est disponible, en lieu de les images et vidéos truquées.

Une lutte efficace ?

Selon Higham, ces modifications ont déjà permis de réduire de 70% l’exposition à des résultats en images explicites lors de recherches de deepfakes. Cependant, si Google s’efforce de déclasser le contenu explicite de deepfake, il reste parfois difficile de distinguer ce qui est réel et consensuel, d’un matériel généré par intelligence artificielle sans le consentement de l’acteur concerné.

Détecter et éliminer les deepfakes

Pour pallier ce problème, Google est désormais en mesure de repérer le contenu de deepfake en prenant en compte si « la page d’un site a été supprimée du Search conformément aux politiques de l’entreprise ». De plus, la firme travaille à simplifier le processus pour les victimes souhaitant supprimer des deepfakes d’elles-mêmes. Une fois supprimés, Google s’engage à filtrer tous les résultats similaires et à supprimer les duplicatas.

Malgré ces avancées, Google reconnaît qu’il reste « beaucoup de travail à faire » et se dit déterminé à développer de nouvelles solutions pour aider les personnes touchées par les deepfakes non consentis. Cette intervention intervient deux mois après que la Maison-Blanche a appelé les entreprises technologiques à freiner la propagation des images explicites de deepfakes.