Google dissout déjà son comité d’éthique sur l’intelligence artificielle après une seule semaine

Le comité d'éthique de Google sur l'intelligence artificielle aura fait long feu. La faute à la nomination de deux personnalités controversées qui avait suscité une pétition des employés.

Le Avril, le géant américain Google annonçait la dissolution de son comité d’éthique sur l’intelligence artificielle après une petite semaine de controverse. L’Advance Technology External Advisory (Conseil Externe sur les Technologies de Pointe) avait été créé la semaine dernière pour surveiller l’usage de l’IA d’un point de vue purement éthique.

Google dissout son comité d’éthique sur l’intelligence artificielle

Celui-ci était composé de mathématiciens, philosophes et mêmes économistes. Parmi eux, Kay Coles James et Dyan Gibbens. La première est la président de la fondation Heritage, un groupe de réflexion conservateur qui s’est déjà déclaré contre les droits des immigrés, des gays et des transgenres. Une lettre de protestation des employés de Google réclamait déjà son départ le 1er Avril, plus de 2 500 signatures avaient été réunies, dont de grands noms.

suite aux controverses quant à la présence de deux de ses membres

Selon cette lettre, en choisissant cette personnalité, Google valorise « la proximité du pouvoir » et non « le bien-être des personnes transsexuelles, des autres personnes LGBTQ et des immigrants« . Pire encore, comme l’expliquait un anonyme au MIT Technology Review, « ces technologies façonnent nos institutions sociales, notre vie et notre accès aux ressources. Quand l’IA échoue, ce n’est pas pour les hommes blancs et riches qui travaillent dans les entreprises de technologie. Elle échoue pour les populations que les politiques de la fondation Heritage cherchent déjà à atteindre. » Il faut dire que les algorithmes sont programmés pour tirer les personnes en deux groupes seulement, les hommes et les femmes. Ils ne sont pas adaptés pour les personnes transgenres et cela peut être problématique.

Si la présence de Dyan Gibbens dans ce comité n’a pas fait l’objet de lettre, elle fut tout autant décriée car la jeune femme, patronne de Trumbull – spécialiste des systèmes autonomes pour la défense – a collaboré avec l’armée. Les employés de Google sont clairs, ils l’ont déjà été plusieurs fois d’ailleurs : pas de présence ni de projet militaire chez eux !

Ces controverses auront donc finalement décidé Google à dissoudre purement et simplement ce comité. Espérons que d’autres garde-fous seront mis en place ultérieurement.