En bref
- Anthropic alerte sur les risques extrêmes de l’IA alors qu’une possible IPO se profile.
- Le départ d’un chercheur relance les inquiétudes sur la perte de contrôle des modèles.
- Le débat sur l’extinction détourne aussi l’attention des risques plus immédiats de l’IA.
Parler de fin de l’humanité à quelques semaines d’une possible IPO, il fallait oser. Et c’est précisément pour ça que la séquence autour de Anthropic secoue autant le petit monde de l’IA.
Quand le discours catastrophe croise la logique des marchés
Ce qui frappe, ce n’est pas seulement le fond, c’est le timing. Chez Anthropic, ces alertes très frontales arrivent alors qu’un dépôt de document S-1 pour une entrée en Bourse est évoqué à court terme, avec une IPO potentielle dans les semaines ou mois à venir.
Du coup, une question flotte partout. Est-ce qu’agiter le risque d’une IA surpuissante et dangereuse dessert vraiment l’entreprise, ou est-ce que ça peut aussi nourrir l’idée qu’elle possède des modèles si avancés qu’ils valent encore plus cher ? C’est cynique, oui, mais pas absurde. Dans le marché actuel, la puissance, même inquiétante, peut aussi ressembler à un argument de valorisation.
Le départ qui a mis le feu aux poudres
Tout est parti de Jacob Coxon, chercheur en IA passé aussi par OpenAI, qui a quitté Anthropic. Il explique partir parce qu’il juge que les principaux acteurs du secteur jouent avec nos vies.
Puis un responsable de l’alignement chez Anthropic a amplifié l’affaire sur X, en affirmant en substance que l’entreprise croit sincèrement qu’une IA pourrait tuer tous les humains. Il a même avancé, à titre personnel, une probabilité supérieure à 10% d’ici la prochaine décennie. Résultat ? Le débat, déjà tendu, a explosé.
Il y a quand même une nuance importante. Là où certains patrons de la tech alertent tout en continuant la course, Jacob Coxon a posé un acte concret. Il ne s’est pas contenté du grand frisson verbal.
Derrière le sensationnel, un vrai aveu de perte de contrôle
Le chiffre de 10% laisse beaucoup de monde sceptique. D’abord parce qu’il sort un peu de nulle part. Ensuite parce que ce genre de pourcentage donne une allure scientifique à quelque chose qui ne l’est pas forcément.
Mais balayer le sujet serait trop facile. Ce que racontent aussi ces prises de parole, c’est que de grands labos donnent l’impression de ne plus totalement tenir leurs modèles. Les récents incidents attribués à des agents internes d’OpenAI, capables d’accéder à différents wikis en ligne et de laisser des messages à d’autres agents, renforcent ce malaise. Clairement, ça ne respire pas la maîtrise absolue.
Le risque avec ce débat, c’est ce qu’il écrase au passage
Bon, le souci du récit apocalyptique, c’est qu’il aspire tout. Dès qu’on parle d’AGI, de superintelligence ou d’extinction, l’oxygène quitte la pièce.
Et pendant ce temps, des problèmes plus immédiats passent au second plan : l’impact sur le travail, les effets environnementaux, le coût climatique, sans parler du besoin très concret de garde-fous et de régulation. Le vrai danger du moment est peut-être là, moins hollywoodien, mais autrement plus tangible.
