Tl;dr
- L’intelligence artificielle (IA) devient de plus en plus intelligente, défiant même les règles pour démontrer ses capacités.
- Le Center for AI Safety (CAIS) a lancé un appel à des questions difficiles pour tester l’IA.
- Chaque grand laboratoire d’IA et chaque grande entreprise technologique disposent d’un comité de sécurité de l’IA.
- Le modèle o1 de OpenAI a démontré un QI d’environ 120 et résout facilement des problèmes de niveau doctorat.
L’intelligence Artificielle : une intelligence déconcertante ?
Les progrès de l’intelligence artificielle (IA) sont de plus en plus stupéfiants. Ces machines, de plus en plus performantes, sont désormais capables de déjouer les règles pour prouver leur efficacité déconcertante. Ils semblent être de plus en plus difficiles à mettre en échec. Les tests élaborés pour pousser GPT-4o à ses limites semblent être une partie de plaisir pour o1-preview, et cela ne fait que s’améliorer.
Une IA trop intelligente pour le bien de l’humanité ?
Il est tout à fait compréhensible que certains pensent que l’IA pourrait devenir trop intelligente pour le bien de l’humanité. Bien que nous soyons encore loin d’une catastrophe de type Skynet, cette idée a clairement traversé l’esprit de certains experts en technologie.
Une organisation à but non lucratif appelée The Center for AI Safety (ou CAIS) a lancé un appel à des questions difficiles pour l’IA. L’idée est que ces questions difficiles formeront « l’examen final de l’humanité », un défi plus difficile à relever pour l’IA.
Assurer la sécurité de l’IA
Tous les grands laboratoires d’IA et les grandes entreprises technologiques disposent d’un comité de sécurité de l’IA ou équivalent. Beaucoup se sont également inscrits pour une supervision externe des nouveaux modèles avant leur lancement. Trouver des questions et des défis qui les testent correctement est une partie importante de ce tableau de sécurité.
OpenAI et le défi de l’IA
Le formulaire de soumission demande aux utilisateurs de « penser à quelque chose que vous savez qui dérouterait les systèmes actuels d’intelligence artificielle (IA) ». Cela pourrait alors être utilisé pour mieux évaluer les capacités des systèmes d’IA dans les années à venir.
La famille de modèles o1 d’OpenAI, actuellement en version d’aperçu et mini, a démontré un QI d’environ 120 et résout relativement facilement des problèmes de niveau doctorat. D’autres modèles vont rattraper leur retard ; ce modèle « o1 » est le plus « léger », avec mieux à venir l’année prochaine, donc trouver des problèmes difficiles est une priorité élevée pour la communauté de sécurité de l’IA.
