L’IA de Facebook peut déterminer la provenance d’un deepfake

Facebook a mis au point un outil basé sur l'intelligence artificielle capable de déterminer jusqu'à la provenance d'un deepfake. Impressionnant.

L’intelligence artificielle est déjà très impressionnante, et la technologie n’en est pourtant encore qu’à ses débuts. Elle offre des résultats plus que satisfaisants dans des domaines extrêmement variés. Elle peut notamment nous aider à démêler le vrai du faux. Nouvel exemple avec Facebook et son nouvel outil de lutte contre les deepfakes.

Facebook a mis au point une IA capable de déterminer la source d’un deepfake

L’intelligence artificielle est une technologie vraiment incroyable. Cela étant dit, aussi étonnante soit-elle, elle peut évidemment être utilisée à mauvais escient. Un bon exemple serait son utilisation pour créer des deepfakes. L’intelligence artificielle est ici employée pour créer de fausses photos ou vidéos de personnes, avec un résultat très convaincant pour un œil non entraîné. C’est dans cette optique que des entreprises comme Adobe ont mis au moins des outils de détection.

et de trouver des similarités sur une série, s’il en existe

Cela étant dit, détecter la manipulation sur une photo ou une vidéo est une chose, mais ce n’est que la partie émergée de l’iceberg. En effet, les fichiers media sont très largement partagés, il est très difficile de remonter jusqu’à leur origine. Facebook pense avoir trouvé la solution à ce problème. La firme de Menlo Park, en collaboration avec l’Université d’État du Michigan, a mis au point une intelligence artificielle capable non seulement de détecter les deepfakes mais aussi de trouver d’où elle provient.

Selon les chercheurs, “nous avons commencé avec l’attribution d’image et avons ensuite travaillé à déterminer les propriétés du modèle utilisé pour générer l’image. […] En généralisant l’attribution d’image avec un système de reconnaissance ouvert, nous pouvons en déduire davantage d’informations concernant le modèle génératif utilisé pour créer un deepfake qui va bien plus loin que tout ce que l’on a pu voir jusqu’à présent.”

Le système ne fonctionne pas que sur un unique deepfake, il peut aussi comparer et trouver des similarités sur une série de deepfakes. Autrement dit, cet algorithme pourrait être utilisé pour retracer des groupes d’images manipulées jusqu’à une seule et même source, ce qui devrait permettre de faciliter la traque des auteurs de campagnes de désinformation, notamment.