Anthropic veut ralentir la course mondiale à l’IA

Anthropic estime que l’IA pourrait un jour concevoir sa propre remplaçante. L’entreprise plaide pour un ralentissement mondial, avec contrôle entre labos.

Le truc le plus frappant, c’est ça : Anthropic, en plein milieu de la course à l’IA, explique qu’il faudrait peut-être appuyer sur pause. Pas un obscur labo en bout de piste, non. Un acteur majeur, qui serait même en route vers son premier trimestre rentable et qui a déjà déposé des documents auprès de la SEC en vue d’une entrée en Bourse d’ici la fin de l’année. Quand ce genre de boîte dit qu’on va trop vite, on écoute au moins une minute.

Le leader qui demande de freiner

Dans un billet de blog, Anthropic explique que la tendance actuelle pourrait mener à des systèmes capables de concevoir leur propre successeur. On n’y est pas encore, précise l’entreprise, mais elle estime que ce moment pourrait arriver plus tôt que beaucoup d’institutions ne l’imaginent.

Et c’est là que le débat devient nettement moins théorique. Parce que la société ne parle pas seulement d’un gain de performance ou d’une nouvelle génération de modèles. Elle parle d’un cap où l’automatisation du progrès lui-même pourrait échapper au rythme humain. Là, ça ne ressemble plus à une simple roadmap produit.

Le vrai point de bascule qui inquiète

Anthropic reconnaît que des IA capables de construire leurs successeurs pourraient apporter énormément, notamment pour la science ou la santé. Mais l’entreprise ajoute l’autre face du problème : ce saut pourrait aussi augmenter le risque que les humains perdent le contrôle sur les systèmes d’IA.

Sa solution, en gros, tient en deux mots : ralentissement mondial. Ou même une pause temporaire, le temps que les structures de la société et la recherche sur l’alignement rattrapent un peu la technologie. Dit comme ça, ça paraît presque évident. Dans la vraie vie, c’est un casse-tête XXL.

Ralentir, oui, mais pas sur parole

Parce qu’un arrêt n’aurait de sens que si tout le monde joue le jeu. Anthropic souligne qu’il faudrait plusieurs labos bien financés, proches de la frontière technologique, dans plusieurs pays, qui acceptent de s’arrêter sous les mêmes conditions.

Surtout, chacun devrait pouvoir vérifier que les autres ont vraiment ralenti ou stoppé leurs travaux. Sinon, on connaît la suite : certains continuent en secret, prennent de l’avance, et l’accord explose avant même d’avoir servi. Résultat ? Sans mécanisme de contrôle, la pause ne vaut pas grand-chose.

Entre recherche sérieuse et soupçon de com’

Cette position s’appuie sur les travaux de l’Anthropic Institute, division de recherche lancée en mars. Sa mission, selon l’entreprise, consiste à partager ce qu’elle apprend sur les défis posés par des IA toujours plus avancées, et à étudier ce qu’exigerait un ralentissement crédible.

Mais les critiques existent, et elles ne sont pas discrètes. Le Wall Street Journal rapporte que certains voient dans ces avertissements un coup de com’, histoire de paraître plus responsable que les autres. Même soupçon autour de Mythos, son modèle de cybersécurité diffusé à un groupe limité de partenaires : protection contre les abus, dit Anthropic. Hype organisée ou offre réservée aux très gros clients, répondent ses détracteurs.

L’entreprise assure maintenant vouloir ouvrir des discussions avec des responsables politiques, des chercheurs et d’autres sociétés d’IA dans les prochains mois, avant de publier ce qui sortira de ces échanges. Clairement, le plus important n’est pas juste l’alerte. C’est que l’un des joueurs les plus avancés commence à parler de frein, pas d’accélérateur.