En bref
- Accenture va surveiller les modèles d’Anthropic directement pendant leur développement.
- Anthropic et Accenture prévoient chacun 1 milliard de dollars d’investissement sur cinq ans.
- Le dispositif doit s’élargir à d’autres évaluateurs externes dans les prochaines semaines.
Ce que Anthropic met en place est assez rare pour faire lever un sourcil, même dans l’IA. L’entreprise va laisser des évaluateurs externes s’installer au plus près de ses modèles frontier, autrement dit ceux qui comptent vraiment dans la course actuelle.
Des observateurs directement dans la machine
Concrètement, Accenture va servir d’évaluateur tiers intégré chez Anthropic. L’idée, ce n’est pas juste un audit posé sur un PDF en fin de chaîne. Les équipes de Accenture doivent voir les modèles prendre forme pendant l’entraînement, suivre les décisions qui cadrent leur construction puis leur déploiement, et parler directement aux salariés.
Le rôle annoncé est large. Vérifier que les pratiques de sécurité et les engagements sont bien respectés, remonter les incidents, et juger l’alignement des modèles. En gros, un regard extérieur, mais collé au moteur.
Un premier vrai geste après la sortie de Dario Amodei
Ce partenariat n’arrive pas par hasard. La semaine dernière, le patron de Anthropic, Dario Amodei, proposait un plan en trois étapes pour ralentir le rythme du développement de l’IA. Cet accord avec Accenture en fait clairement partie, et même parmi les premiers mouvements concrets.
Dans cette vision, les sociétés qui développent de l’IA de pointe doivent donner à des évaluateurs externes un accès continu, presque comme s’ils étaient des employés. Le but reste le même, éviter que les promesses de sécurité restent au niveau du discours. Sur le papier, l’idée est solide. Dans les faits, c’est un test grandeur nature.
Pourquoi Accenture, et pourquoi ce dossier reste flou ?
Anthropic justifie ce choix par l’expérience de Accenture auprès des entreprises et des gouvernements, avec des déploiements d’IA dans plusieurs secteurs. La société estime aussi que ce vécu sur les usages en entreprise peut apporter un angle utile pour évaluer ses propres modèles. Pas absurde, quand même.
L’accord pèse lourd. Anthropic et Accenture prévoient d’investir au moins 1 milliard de dollars chacun sur les cinq prochaines années dans cet effort commun.
Mais tout n’est pas réglé. Anthropic reconnaît que ce modèle d’évaluateurs intégrés est nouveau et qu’aucune norme n’existe encore sur le périmètre exact, le niveau d’accès ou la manière de signaler les problèmes. Et la suite ne s’arrête pas à Accenture : d’autres évaluateurs doivent être annoncés dans les prochaines semaines, pendant que Accenture, de son côté, pourra aussi travailler avec d’autres acteurs de l’IA. Autrement dit, le cadre se construit pendant que la partie est en cours.
