L’IA inquiète de plus en plus, y compris ses propres créateurs
Image d'illustration. IAADN
Face aux risques potentiels liés à l’intelligence artificielle, le PDG d’Anthropic et d’autres figures du secteur plaident pour la mise en place de mesures de sécurité strictes, exprimant leur inquiétude quant aux conséquences sur l’avenir de l’humanité.
Tl;dr
- Le débat sur l’IA s’intensifie, avec une inquiétude croissante dans la société face à ses usages, ses dérives possibles et son impact sur le quotidien.
- Plusieurs dirigeants du secteur, comme ceux d’Anthropic, OpenAI et Salesforce, reconnaissent les risques majeurs, notamment en matière de sécurité, de biais et de mésusage de technologies puissantes.
- Des lois et initiatives émergent pour encadrer l’IA, mais elles restent jugées insuffisantes face aux défis rapides posés par les deepfakes et les systèmes encore imparfaits.
Un malaise croissant autour de l’IA
Les débats sur la montée en puissance de l’intelligence artificielle n’ont jamais été aussi vifs. Il suffit de parcourir les réseaux sociaux pour percevoir le scepticisme ambiant : étudiants conspuant les discours pro-IA lors de cérémonies universitaires, communautés locales s’opposant à l’installation de nouveaux centres de données géants… Ce climat illustre une inquiétude qui ne se limite plus aux cercles spécialisés.
Les géants du secteur reconnaissent les dérives potentielles
Contrairement à l’image froide souvent associée aux grandes entreprises technologiques, plusieurs voix majeures du secteur reconnaissent aujourd’hui ouvertement la gravité des enjeux. Ainsi, Dario Amodei, PDG d’Anthropic, admet dans son essai « L’adolescence de la technologie » que « l’humanité s’apprête à recevoir un pouvoir quasi inimaginable, sans certitude sur la maturité nécessaire pour le maîtriser ». L’auteur alerte : déclencher un arrêt brutal du développement sans preuve tangible serait excessif, mais il insiste sur la nécessité d’un débat responsable.
Dans le sillage d’Amodei, d’autres acteurs comme Sam Altman, patron d’OpenAI, préviennent que ces technologies pourraient abaisser les barrières à l’acquisition d’armes biologiques. Il confie ainsi devant le Congrès américain que « les systèmes d’IA progressent si vite qu’ils pourraient rendre plus accessibles des savoirs autrefois hors d’atteinte pour des individus mal intentionnés ».
L’urgence d’un encadrement réglementaire
Face à ces constats, certains leaders prennent position pour une réglementation immédiate. À contre-courant du discours dominant dans la Silicon Valley, Marc Benioff, PDG de Salesforce, va jusqu’à pointer du doigt la responsabilité limitée des entreprises grâce à la fameuse Section 230 : « S’il s’avère qu’une IA pousse un adolescent au suicide, l’entreprise n’est pas tenue responsable… Cela doit changer. »
Pour tenter de répondre à ces risques, plusieurs législations voient le jour :
- Transparency in Frontier AI Act (SB 53) en Californie impose davantage de transparence aux développeurs et protège les lanceurs d’alerte.
- Local Law 144 of 2021 à New York exige un audit des biais pour les outils automatisés utilisés dans le recrutement.
Des garde-fous encore fragiles face aux défis posés par l’IA
Bien que rassurantes sur le papier, ces mesures ne suffisent pas à dissiper toutes les craintes. La multiplication des deepfakes ou des dysfonctionnements majeurs attribués à des systèmes non éprouvés montre que les défaillances éthiques et techniques sont déjà tangibles. Mais alors que la société se mobilise et que certains dirigeants appellent à plus de vigilance, une question subsiste : serons-nous réellement prêts lorsque ce pouvoir deviendra inévitable ?