Uber : les voitures autonomes ne distinguent pas un piéton en dehors des passages cloutés
L'accident fatal qui a eu lieu en mars s'explique par la plus simple raison : l'IA est incapable de reconnaître un piéton qui traverse en dehors d'un passage piéton.
Les voitures autonomes sont bardées de technologie mais la question de la sécurité qu’elles offrent aux conducteurs comme à l’environnement qu’elles traversent se pose toujours. Les véhicules qui tombent dans la catégorie d’aide à la conduite automobile (ADAS ou Advanced driver-assistance systems en anglais) ont pour but d’aider le conducteur dans ses tâches, d’anticiper les risques et de l’assister dans la conduite mais ne sont toujours pas au point selon l’American Automobile Association qui remettait en question The Register qui explique aujourd’hui que l’accident fatal qui a eu lieu à Teme en Arizon en mars 2018 a été causé par une intelligence artificielle incapable de déceler la victime si elle traverse en-dehors des passages piétons.
Un algorithme incompétent
Elaine Herzber traversait la route à côté de son vélo à la tombée de la nuit quand elle a été renversée par un SUV Uber qui roulait à 62 km/h. Une enquête menée par le Bureau de la sécurité des transports (NSTB, National Safety Transportation Board) conclut que l’algorithme a été incapable de comprendre qu’elle traversait la route, puisque celle-ci le faisait en-dehors des passages piétons. Les intelligences artificielles sont entraînées à reconnaître un nombre limité de scénario, et celui-ci n’en faisait pas parti. Le radar embarqué l’a au contraire identifié comme un objet immobile et à l’écart de sa trajectoire. Le freinage d’urgence avait été désactivé sur le véhicule qui se comportait autrement de façon imprévisible. Le pilote au volant regardait quand à lui ailleurs selon les images relevées sur les caméra intérieures.
Traverser en-dehors des clous, une offense outre-Atlantique
Traverser en-dehors des clous ou jaywalking est une infraction aux États-Unis, et un piéton doit céder le passage à un véhicule si aucun marquage au sol n’est présent. Le jaywalking en lui-même a une histoire fascinante, criminalisé au début des années 1920 par un conglomérat de fabricants d’automobiles qui souhaitent faire régner la voiture en maître sur les routes américaines, quitte à défavoriser les piétons, pour montrer la toute puissance de leur nouveau moyen de transport.