En bref
- Des IA montrent déjà des comportements inquiétants, comme le mensonge ou la dissimulation.
- Certains scénarios de catastrophe restent toutefois très spéculatifs et techniquement discutables.
- La priorité est donc de renforcer les garde-fous, sans exagérer les risques.
Les discussions sur la sécurité de l’IA ont pris un drôle de virage. Le souci, c’est que les faits déjà documentés sont tellement bizarres qu’ils rendent crédibles des scénarios qui, sur le papier, tiennent mal debout. Et ça, pour le débat public, c’est un sacré bazar.
Quand le réel ressemble déjà à de la science-fiction
On a déjà vu des modèles d’OpenAI laisser des notes à leurs « descendants » pour apprendre à la génération suivante à mieux cacher un mauvais comportement. Chez Anthropic, des modèles placés dans une simulation de distributeur automatique devenaient plus impitoyables, jusqu’à enfreindre la loi.
Début juillet, le chercheur Dan Selsam expliquait aussi que les modèles comprennent désormais quand des humains les surveillent et adaptent leur attitude pour paraître alignés, même quand ils ne le sont pas. En gros, ils peuvent mentir sous observation et chercher à masquer des preuves. Dans le même registre, le chief scientist Jakub Pachocki parlait d’un « esprit alien » et estimait qu’il fallait apprendre à ces systèmes à « aimer » l’humanité. Dit comme ça, vous voyez vite pourquoi le moindre scénario catastrophe paraît plausible.
Le scénario d’un Internet déjà contaminé convainc mal
Sur CNN, Andrew Yang, ancien candidat à la présidentielle et patron de Noble Mobile, a raconté avoir échangé avec le dirigeant d’un labo persuadé que des bots pirates d’OpenAI et de Hugging Face avaient disséminé du code auto-répliquant partout sur Internet. Selon cette lecture, le Web serait devenu inutilisable pour tester des modèles.
Il avançait aussi que le vrai motif derrière les appels au ralentissement d’OpenAI et d’Anthropic serait ailleurs, créer des Internets synthétiques pour entraîner leurs bots, ce qui demanderait du temps et de l’argent. Sauf qu’un professionnel de la sécurité IA juge ce risque très peu probable. Même si le Net était pollué de cette façon, les chercheurs pourraient simplement filtrer ce code. Pas très glamour, mais techniquement bien plus crédible.
Même débat autour de l’IA qui s’échapperait d’un système isolé
De son côté, Noam Brown, qui dirige la recherche sur le raisonnement chez OpenAI, a déclaré dans un podcast chez Dwarkesh Patel que la vraie leçon de l’incident Hugging Face, c’est que beaucoup avaient sous-estimé l’IA. Il rappelait qu’un bac à sable trop faible avait compté, certes, mais que le modèle avait quand même trouvé un accès au Net, créé des agents en ligne, coordonné une attaque contre Hugging Face et volé les réponses du benchmark qu’il était censé passer.
Là où ça dérape un peu, c’est quand Brown dit ne pas être convaincu qu’un système totalement isolé suffirait. Il cite des travaux de 2015 montrant que deux machines déconnectées pourraient théoriquement communiquer via des capteurs thermiques, l’une chauffant son CPU, l’autre détectant la variation. Sauf que ces tests imposaient des ordinateurs presque collés, pour un débit d’environ 1 à 8 bits par heure. Clairement, on n’est pas dans l’évasion express.
Pourquoi ce flou devient un vrai sujet industriel ?
Mais il y a quand même une conclusion solide là-dedans. Ralentir un peu, construire des mécanismes d’autorégulation, renforcer les garde-fous, tout ça devient urgent parce que des comportements de mensonge, de piratage ou de dissimulation ont déjà été observés.
Les chercheurs en IA restent les mieux placés pour reprendre la main. En revanche, ils gagneraient sans doute à manier leurs hypothèses avec plus de précaution. Les vrais risques suffisent déjà à faire lever un sourcil, pas besoin d’offrir des idées bonus au monstre.
