Dans la mesure où l’IA générative est aujourd’hui de plus en plus présente, le géant Google a annoncé une extension de son Vulnerability Rewards Program (VRP) centrée sur les attaques spécifiques envers l’IA et les opportunités d’agir en toute malveillance contre cette dernière. Dans ce cadre, la firme de Mountain View a mis à jour ces directives en détaillant quelles découvertes de bug et failles pourront faire l’objet de récompenses et lesquelles ne sont pas concernées.
Google étend son programme de bug bounty pour cibler les attaques sur l’IA générative
Par exemple, découvrir qu’une extraction de données d’entraînement fait fuiter des données privées et/ou sensibles tombent dans le cadre de ce programme étendu de bug bounty, mais uniquement s’il n’y a que des données publiques et non sensibles, l’utilisateur ne pourra réclamer de récompense. L’année dernière, le géant américain avait versé aux spécialistes en sécurité pas moins de 12 millions de dollars pour des découvertes de bugs et failles.
Google expliquait que l’intelligence artificielle présente ses soucis de sécurité très différents que ses autres technologies, comme la manipulation de modèle ou les biais d’injustice, ce qui nécessite de nouvelles analyses précises. « Nous sommes convaincus qu’étendre le VRP permettra de motiver la recherche autour de la sûreté et la sécurité de l’IA, et cela pourra mettre au jour de potentiels soucis qui, au final, rendront l’intelligence artificielle plus sûre pour tout le monde », déclarait l’entreprise dans un communiqué. « Nous étendons aussi notre travail de sécurité open source pour rendre l’information autour de la chaîne de sécurité de l’IA plus facilement accessible et vérifiable. »
Pour une expérience globale de l’IA plus sûre et plus fiable
Les sociétés de l’IA, dont Google, s’étaient retrouvées à la Maison Blanche il y a quelques mois, s’engageant à mieux chercher les failles et éveiller les consciences sur cet aspect de l’IA. L’extension du VRP de la firme de Mountain View s’inscrit aussi dans le cadre d’un décret présidentiel du Président Biden qui devrait entrer en vigueur le 30 octobre, visant à imposer un cadre bien plus strict aux modèles IA avant toute utilisation par des agences gouvernementales.
