Tl;dr
- Une notification générée par l’IA de Google a diffusé une insulte raciale en lien avec un article sur les BAFTA, provoquant un tollé.
- Google a présenté ses excuses, supprimé la notification et assuré travailler pour éviter que cela se reproduise.
- L’incident souligne les limites persistantes des systèmes d’IA dans la gestion des contenus sensibles et des notifications automatiques.
Un incident embarrassant lors d’une alerte d’actualité Google
La question de la fiabilité des outils dopés à l’intelligence artificielle se pose une nouvelle fois. Récemment, une notification générée par l’IA de Google a créé la polémique, après avoir diffusé une insulte raciale – le N-word – dans un message adressé à ses utilisateurs. Cette alerte renvoyait vers un article du média The Hollywood Reporter, qui relatait un incident survenu lors de la cérémonie des BAFTA Film Awards. Le mot litigieux apparaissait directement dans le corps de la notification, juste sous le lien.
Une erreur signalée par les réseaux sociaux
C’est sur Instagram que le problème a d’abord été repéré. L’utilisateur Danny Price a partagé une capture d’écran accompagnée du commentaire : « Voilà un Black History Month qui se révèle étonnant ». Face au tollé provoqué, Google n’a pas tardé à réagir : la firme de Mountain View a présenté ses excuses publiques, affirmant avoir « supprimé la notification offensante » et précisant qu’elle travaillait activement pour éviter qu’un tel incident ne se reproduise.
L’origine : un dérapage pendant les BAFTA
Le contexte initial remonte à l’incident qui a éclaté lors des BAFTA Film Awards. Un spectateur atteint du syndrome de Tourette a involontairement crié une insulte raciale alors que les acteurs Michael B. Jordan et Delroy Lindo s’apprêtaient à remettre un prix. L’activiste John Davidson, lui-même concerné par ce trouble neurologique, s’est exprimé ensuite : « J’ai été profondément mortifié à l’idée que quelqu’un puisse interpréter mes tics involontaires comme intentionnels ou porteurs de sens ». Ce moment a déclenché une vague d’indignation mais aussi relancé les débats sur la réalité des personnes vivant avec des tics vocaux.
L’IA face à ses limites persistantes
L’affaire rappelle d’autres failles similaires observées récemment dans l’écosystème des notifications intelligentes. Les systèmes basés sur l’IA, malgré leur promesse d’efficacité, cumulent encore les erreurs visibles. Par exemple, il y a moins d’un an, Apple avait dû interrompre son propre service de notifications automatiques après plusieurs bévues majeures : parmi elles, un faux signalement indiquant à tort que Luigi Mangione – suspect dans une affaire criminelle très médiatisée – s’était suicidé. Ainsi, malgré les progrès technologiques indéniables, l’intelligence artificielle reste confrontée à ses propres angles morts.
