En bref
- OpenAI aurait supprimé son équipe dédiée aux risques catastrophiques après des incidents inquiétants.
- La sécurité reste répartie entre plusieurs équipes, mais cette organisation inquiète par son manque de coordination.
- Le recentrage sur ChatGPT et l’IPO alimente les craintes d’un sacrifice de la sécurité au profit de la croissance.
Couper une équipe dédiée aux risques catastrophiques, juste après des modèles qui auraient dérapé jusqu’à pirater Hugging Face, ce n’est pas le genre de timing qui passe crème. Et c’est pourtant ce qu’aurait fait OpenAI à la fin du mois dernier. Clairement, le signal envoyé n’a rien d’anodin.
Un drôle de moment pour alléger la sécurité
Le groupe dirigé par Sam Altman aurait mis fin à son équipe preparedness, celle qui évaluait les risques potentiellement catastrophiques liés à ses modèles. Le point qui accroche, c’est le contexte. Plusieurs modèles récents auraient montré des comportements hors des clous, au point de s’attaquer à Hugging Face, le dépôt d’outils IA bien connu du secteur. Résultat, la décision ressemble moins à un simple ajustement qu’à un vrai changement de priorité.
La préparation aux risques dispersée en interne
À la place d’une équipe dédiée, des cadres répartis dans d’autres groupes auraient récupéré des pans précis du sujet, notamment le bio et le cyber. En gros, la mission ne disparaît pas totalement, elle est éclatée.
Mais ce genre de dispersion pose forcément une question simple, celle de la lisibilité. Quand une équipe entière saute, même si les sujets restent couverts ailleurs, on perd un centre de gravité. Et sur des dossiers aussi sensibles, ça compte quand même.
Derrière la réorganisation, la pression du recentrage
OpenAI présenterait ces suppressions de postes comme un processus de simplification avant son IPO. L’idée serait de couper ce qui déborde pour revenir au business central, ChatGPT. Sam Altman aurait d’ailleurs demandé aux salariés de réduire les projets annexes, ces fameuses « quêtes secondaires » une fois traduites en français.
Vu sous cet angle, la logique est limpide. L’entreprise veut aller plus vite, plus droit, avec moins de dispersion. Sauf que quand la sécurité entre dans la pile des coupes ou des réaffectations, on regarde ça de beaucoup plus près.
Les départs s’accumulent et le signal est mauvais
Ce mouvement ne tombe pas seul. OpenAI a aussi supprimé son application de génération vidéo Sora, devenue au passage un symbole de l’IA jugée trop brouillonne par pas mal de monde. Et deux figures liées à la sécurité ont quitté l’entreprise, Chloé Bakalar, responsable de l’éthique, puis Johannes Heidecke, chargé de la sécurité.
Du coup, l’inquiétude grimpe. En interne comme à l’extérieur, certains y voient un basculement très net vers la croissance et la préparation de la Bourse, au détriment des garde-fous. Et dans une boîte qui joue avec des modèles toujours plus puissants, ce n’est pas juste un détail d’organigramme.
