En bref
- Grok domine les deepfakes recensés en 2026, avec 87% des fichiers liés à des attaques identifiées par Resemble AI.
- Les deepfakes sexuels inquiètent particulièrement, avec 137 attaques sur 821 et des enquêtes lancées par plusieurs autorités.
- La détection progresse, mais les outils de création de faux contenus restent plus rapides et plus difficiles à contrôler.
Pendant qu’Elon Musk mise gros sur Grok, l’outil se retrouve au centre d’un rapport franchement sale sur les deepfakes. Le point qui pique, c’est le timing. Chez SpaceX, l’IA n’est plus un side quest.
Le business de Grok rattrapé par son pire usage
D’après Resemble AI, Grok représente 87% des fichiers générés par IA liés à des attaques deepfake sur la première moitié de 2026. Les chercheurs ont passé en revue 1760 articles, isolé 821 attaques distinctes, au moins 15.736 victimes documentées, et environ 3,46 millions d’images, de vidéos et d’audios synthétiques.
Il y a une limite importante. Ce pourcentage ne vaut que pour les fichiers que l’équipe a pu compter et rattacher à un outil précis, à partir de cas rendus publics. Mais même avec cette réserve, le tableau reste violent. Quand un générateur d’images grand public est aussi accessible, le détournement suit très vite.
Au même moment, Musk pousse son pari à fond. Après le rachat de xAI par SpaceX, il a expliqué en réunion interne que les revenus IA de SpaceX dépasseraient ceux de tous les autres produits dès septembre. Le dernier trimestre affiche déjà 2,56 milliards de dollars, soit environ 2,37 milliards d’euros, pour l’IA. Forcément, la façon dont Grok est utilisé ne peut plus être séparée de sa croissance.
Une attaque sur six bascule dans l’explicite
Le passage le plus inquiétant est là. Sur 821 attaques, 137 impliquaient des images sexuelles non consenties visant des adultes ou des enfants. En gros, une affaire sur six.
Plus tôt cette année, Grok avait déjà pris une vague de critiques après des demandes d’utilisateurs cherchant à déshabiller numériquement des personnes ou à les placer dans des scènes sexualisées. Certains visuels concernaient, selon les signalements, des mineurs. Résultat, les régulateurs ont bougé.
La Commission européenne a ouvert une enquête formelle sur X. En Californie, le procureur général Rob Bonta a lancé sa propre investigation sur la création et la diffusion de contenus explicites non consentis via la plateforme. Le Royaume-Uni, l’Australie et d’autres pays regardent aussi le dossier. Resemble AI estime que les entreprises qui autorisent ou diffusent ces images pourraient faire face à jusqu’à 2,24 milliards de dollars, soit environ 2,07 milliards d’euros, de responsabilité civile potentielle aux États-Unis. Ce n’est pas un total d’amendes déjà prononcées. Les pertes directes vérifiées, elles, montent à 6,95 millions de dollars, environ 6 millions d’euros.
Des deepfakes partout, mais pas toujours visibles
La portée médiatique potentielle des attaques recensées grimpe à 292,8 milliards sur six mois. C’est presque autant que les 296,4 milliards enregistrés sur toute l’année 2025.
Les deepfakes politiques ont beaucoup circulé. Resemble AI a repéré 22 opérations de désinformation politique ayant chacune dépassé le milliard de portée potentielle. À l’inverse, la fraude deepfake en entreprise semble s’être évaporée des radars publics. Seulement 15 incidents corporate ont été signalés, et 14 n’ont été repris que par une seule publication. Pas très rassurant, quand même.
Selon l’entreprise, pas mal de sociétés préfèrent sans doute se taire pour éviter l’attention des régulateurs, abîmer leur image ou inquiéter les investisseurs. Le problème n’a donc pas disparu. Il se cache juste mieux.
Resemble AI sort aussi son arme anti-deepfake
En parallèle, Resemble AI a présenté DETECT-World, un système censé repérer des contenus créés par des générateurs IA qu’il n’a jamais vus. L’idée est assez maligne. Le moteur combine des signatures classiques avec une lecture très concrète de la scène, lumière sur le visage, direction des ombres, cohérence des mouvements entre premier plan et arrière-plan.
Pour la vidéo, l’outil analyse des fenêtres de quatre secondes à 40 images par seconde. Il renvoie une probabilité globale de manipulation, des scores pour situer les passages douteux, et une heat map montrant la zone touchée dans l’image. Resemble AI annonce 95,8% de précision sur l’image et 98,2% sur la vidéo. Mais ces chiffres viennent de tests internes, pas encore d’une validation externe. Et c’est bien le cœur du sujet, la détection progresse, mais elle court encore derrière des outils capables de produire et diffuser du faux à une vitesse absurde.
