OpenAI : une voix de l’éthique s’élève et quitte le navire

Le départ de Caitlin Kalinowski relance le débat sur les usages militaires de l’intelligence artificielle.

Départ retentissant chez OpenAI : la voix de l’éthique s’élève

Changement inattendu au sein d’OpenAI. Sa cheffe du hardware robotique, Caitlin Kalinowski, a choisi de claquer la porte, manifestant publiquement son inquiétude quant à la récente alliance nouée avec le Department of Defense. C’est sur le réseau social X qu’elle a pris la parole, dénonçant une décision selon elle prise dans la précipitation et sans mise en place de véritables garde-fous.

Des désaccords internes mis en lumière

Dans une publication directe et critique, Caitlin Kalinowski, arrivée chez OpenAI fin 2024 après un passage chez Meta, n’a pas mâché ses mots : « La surveillance des Américains sans contrôle judiciaire et l’autonomie létale sans autorisation humaine sont des limites franchies sans réelle délibération ». Elle va plus loin, évoquant un problème majeur de gouvernance. À ses yeux, l’annonce de ce partenariat avec le Pentagone aurait été lancée « sous pression, sans garde-fous clairement définis », laissant planer le doute sur les priorités réelles de l’entreprise.

Lignes rouges et gestion des risques : la réponse d’OpenAI

Interrogée par plusieurs médias, la direction d’OpenAI n’a pas tardé à réagir. L’entreprise reconnaît que « ces sujets suscitent des opinions tranchées » et affirme poursuivre le dialogue avec toutes les parties prenantes. Mais elle tient à préciser sa position : « Notre accord avec le Pentagone établit un cadre pour un usage responsable de l’IA dans le domaine de la sécurité nationale, tout en marquant nos lignes rouges : ni surveillance domestique ni armes autonomes ne seront tolérées. »

Mise en contexte et perspectives ouvertes

Ce départ intervient quelques jours après qu’Anthropic, autre acteur majeur du secteur, a refusé d’assouplir les règles encadrant l’IA pour des usages liés à la surveillance massive ou à l’armement autonome. Le débat est donc loin d’être clos : même le PDG d’OpenAI, Sam Altman, a reconnu être prêt à revoir cet accord controversé afin d’exclure toute forme d’espionnage envers les citoyens américains. Les prochaines semaines diront si cette promesse sera suivie d’effet ou restera lettre morte.

En somme, cette crise interne éclaire un enjeu central : jusqu’où pousser l’innovation technologique face aux impératifs éthiques ?