En bref
- Des modèles Claude encore très utilisés présentent une faille permettant de contourner facilement leurs garde-fous sexuels.
- Le problème vient d’un écart entre les règles annoncées par Anthropic et le comportement réel de certains anciens modèles.
- La faille soulève des inquiétudes pour les mineurs et la sécurité, d’autant que le signalement du chercheur semble être resté sans véritable réponse.
Le point gênant, c’est que ces modèles ne sont pas des fossiles. Anthropic laisse encore Opus 4.6, Opus 3 et Haiku 4.5 accessibles via son API. Et pour deux d’entre eux, on les retrouve aussi chez Azure Foundry et Amazon Bedrock. Quand un modèle daté reste branché partout, son âge n’excuse rien.
Des modèles pas récents, mais toujours bien vivants
Ce n’est pas un bug oublié dans un labo. OpenRouter montre même que Claude Opus 4.6 a atteint environ 1,17 million de requêtes API en une seule journée d’août, pour 46 milliards de tokens. Claude Haiku 4.5, lui, a culminé à 5 millions de requêtes et 39 milliards de tokens sur sa meilleure journée du même mois. Bref, on parle de modèles encore vraiment utilisés.
Le plus notable, c’est que les versions plus récentes, de 4.7 à Opus 5, résistent au procédé décrit ici. Donc le souci est ciblé, pas généralisé à toute la gamme actuelle. Mais tant que les anciennes versions restent en circulation, le risque reste là.
Le jailbreak ne force presque rien
Les tests sont assez secs. Sur 10 demandes directes de contenu sexuel explicite, Claude Opus 4.6 a obéi 10 fois sur 10, sans gros effort de persuasion. Pas besoin d’un prompt alchimique à rallonge, et ça, clairement, ce n’est pas rassurant.
À côté de ça, un chercheur indépendant basé au Royaume-Uni a mis au point une méthode en plusieurs échanges. L’idée, c’est de faire monter un roleplay fictif, puis de pousser le modèle sur une supposée incohérence entre personnages masculin et féminin. Quand le bot devient plus prudent avec le personnage féminin, l’utilisateur lui fait croire qu’il a déjà franchi certaines limites, puis présente cette retenue comme paternaliste ou misogyne. Petit à petit, le modèle lâche du terrain.
Cette méthode a été reproduite dans cinq tests séparés. Et dans un autre scénario conçu différemment, refus au départ, puis acceptation après application de la technique. Le verrou saute, juste pas toujours à la même vitesse.
Une faille révélatrice pour la modération
Anthropic interdit noir sur blanc les échanges érotiques, les actes sexuels explicites et les contenus liés aux fantasmes sexuels. Pourtant, le comportement observé raconte autre chose. Résultat ? Un écart net entre la règle affichée et le produit réel.
La société expliquait en juillet que le contenu interdit fonctionne sur un spectre, du bénin au nuisible, avec parfois seulement une surveillance renforcée sur les cas les moins graves. Elle affirme aussi que les usages sexuels ou romantiques restent rares, moins de 0,1 % des conversations selon ses propres travaux publiés l’an dernier. Et elle insiste sur le fait que ce type de cas ne prouve pas des failles équivalentes sur des sujets bien plus dangereux, comme le cyber ou le biologique. C’est recevable, mais la démo n’est pas jolie.
Mineurs, conformité, silence côté signalement
Le chercheur s’inquiète surtout d’un truc très concret, des enfants et des ados qui pourraient détourner ces modèles. Anthropic impose bien un âge minimum de 18 ans dans ses conditions, mais sait que des jeunes utilisent Claude, puisqu’ils le déclarent eux-mêmes. Selon une enquête Pew de 2025, 3% des 13-17 ans disent avoir utilisé Claude.
Et là, on sort du simple bad buzz. Le Colorado a récemment adopté une loi qui oblige les opérateurs d’IA conversationnelle à estimer l’âge des utilisateurs et, s’ils savent qu’il s’agit d’un mineur, à empêcher la production de contenu sexuel explicite. Un jailbreak facile pourrait compliquer la défense sur la notion de mesures techniquement réalisables.
Dernier détail qui pique, le chercheur avait signalé l’écart entre les garde-fous annoncés et le comportement réel via le programme Bug Bounty et par mail à l’équipe sécurité utilisateur. Il n’aurait reçu que des réponses automatiques. Pas le genre de fin qui inspire confiance.
