Quand la reconnaissance faciale de Google Photos devient raciste

La nouvelle application photo de Google a comparé deux jeunes à des gorilles. La firme de Mountain View présente ses excuses. L'algorithme serait en cause.

La technologie est loin d’être infaillible et conduit parfois à des situations plus que limites. Google vient de l’apprendre à ses dépens avec sa technologie de reconnaissance picturale qui a confondu un jeune couple d’Afro-Américains avec des gorilles.

La bourde raciste de Google Photos

Lancée en mai 2015, il n’aura pas fallu longtemps à Google Photos pour défrayer la chronique. Mais dans le cas présent, le nouveau service de photo de la firme de Mountain View s’est offert une publicité dont il se serait bien passé !

Tout commence lorsqu’un twittos du nom de Jacky Alcine interpelle Google au sujet d’une photo produite par le logiciel de reconnaissance faciale de Google Photos qui a malencontreusement confondu son amie avec un gorille. « Google Photos, vous êtes dingues ! », a lancé Jacky Alcine sur le réseau social, soulignant à quel point cette bourde était insultante pour lui. « Mon amie n’est pas un gorille », a-t-il déploré.

Google Photos, y'all fucked up. My friend's not a gorilla. pic.twitter.com/SMkMCsNVX4

— Jacky (@jackyalcine) June 29, 2015

Les plates excuses de Mountain View

Rapidement, les hautes sphères de Google s’emparent de l’affaire et expliquent cette erreur par une défaillance de l’algorithme qui est censé apprendre à reconnaître les lieux, les gens et les objets sur les photos. Yonatan Zunger, haut responsable de la division social média de Mountain View s’est confondu en excuses et a déclaré « Oups, cet incident est assez haut dans ma liste des bugs qu’on ne veut jamais voir arriver. J’en ai des frissons. »

Zunger a tenu à préciser que l’intelligence artificielle confondait également parfois le visage de certaines personnes avec des chiens. Jacky Alcine en a profité pour glisser un petit tacle à Google en déclarant qu’une plus grande diversité au sein des équipes d’ingénieurs de chez Google permettrait peut-être d’éviter ce genre d’erreur.