En bref
- La Californie veut accélérer la sécurité de l’IA avec un délai de deux mois.
- Audits externes, signalement des incidents et « kill switch » sont au programme.
- Le rapport pourrait déboucher sur de nouvelles règles pour les entreprises d’IA.
Deux mois. C’est le temps que Gavin Newsom laisse à un groupe d’experts nationaux pour lui remettre de nouvelles recommandations sur la sécurité de l’IA en Californie. Le gouverneur a signé son décret vendredi, avec une idée en tête, aller vite avant que les modèles les plus avancés ne cassent encore un peu plus leurs garde-fous.
Le message est limpide. Gavin Newsom a dit vouloir accélérer un encadrement sérieux et responsable de l’IA avant qu’il ne soit trop tard, en avançant avec méthode mais aussi avec une vraie urgence, parce que les enjeux sont trop élevés pour attendre. Pas de quoi faire semblant, donc.
Deux mois pour sortir un plan crédible
Le plus frappant, ce n’est même pas le mot kill switch. C’est le calendrier. En gros, Gavin Newsom veut un plan rapide, assez solide pour nourrir ensuite une mise à jour des lois de l’État sur la sécurité des systèmes d’IA.
Le panel ne doit pas juste rendre un avis théorique. Il doit envoyer des recommandations au bureau du gouverneur, qui pourra ensuite s’en servir pour retoucher le cadre légal. Là, on n’est plus dans la note d’intention un peu floue.
Le kill switch n’est qu’un morceau du dispositif
Le fameux kill switch attire toute la lumière, forcément. Mais le décret va plus loin. Il prévoit aussi d’étudier l’intégration d’organisations indépendantes de vérification dans les labos d’IA, avec des audits périodiques et des évaluations régulières.
Clairement, l’idée est d’éviter que les entreprises se contrôlent seules. Et sur un sujet pareil, c’est quand même le minimum.
Incidents à déclarer, lois à retoucher
Autre point clé, les entreprises pourraient devoir transmettre des rapports et des évaluations de risques à un organisme tiers. Le panel doit aussi explorer une obligation de déclarer les incidents de perte de contrôle.
Le décret cite le cas de Hugging Face comme exemple de ce type d’incident. Résultat, la logique ne se limite pas à prévenir un problème abstrait, elle vise aussi à obliger les acteurs à signaler quand ça dérape vraiment.
Un virage qui dépasse la Californie
Et Gavin Newsom n’arrive pas seul avec ce genre d’idée. La semaine dernière, le patron d’Anthropic, Dario Amodei, a lui aussi proposé un plan en trois étapes pour ralentir le développement de l’IA.
Sa proposition passait notamment par un accès continu, presque comme celui d’un employé, pour des évaluateurs tiers chargés de la sûreté et de la conformité. Dit autrement, la pression pour un contrôle externe des modèles de pointe monte de plusieurs côtés. Et ce n’est sans doute que le début.
