Microsoft envisage d’utiliser l’IA pour censurer les jurons dans les chats Xbox Live
Le géant dévoilait hier quatre filtres différents pour modérer le contenu reçu par message sur le Xbox Live, mais annonçait aussi discrètement l'apport de l'intelligence artificielle et de l'apprentissage automatique pour aller plus loin encore.
Les chats en ligne sont notoirement connus pour receler d’humour autant que d’injures, et il ne passe pas un jour sans qu’un joueur insulte la mère d’un autre, l’humilie, voire l’harcèle. Afin de gérer ces pics de colère et le harcèlement moral répréhensible, Microsoft dévoilait hier 4 niveaux de modération permettant de filtrer les contenus réceptionnés sur le compte de l’utilisateur : Amical, Moyen, Adulte et Sans filtre. Si le geste n’est pas nouveau et arrive plutôt tardivement sur la plateforme qui a désormais plus d’une décennie, l’annonce faite a de quoi retenir l’attention puisque le dernier paragraphe, Looking Ahead (Perspectives futures), évoque l’utilisation de l’intelligence artificielle et l’apprentissage automatique (machine learning) pour “bipper” les jurons dans le chat vocal du Xbox Live.
Microsoft demande un retour des joueurs
“Notre but final est de compléter nos efforts actuels par l’utilisation de nos initiatives technologiques en IA et en apprentissage automatique afin d’offrir un filtre sur l’ensemble des contenus du Xbox Live, offrant plus de contrôle à chaque joueur. À cette étape, vos commentaires sont d’une importance cruciale pour faire évoluer cette expérience et faire du Xbox Live un endroit accueillant et ouvert” peut-on lire dans le communiqué. Si cela vous paraît un peu vague, The Verge est allé cherché les renseignements à leur source auprès de Rob Smith, manager du programme Xbox Live. Ce dernier affirme que Microsoft vise à “s’attaquer au problème de la toxicité du chat vocal” en s’appuyant sur les algorithmes de discours vers l’écrit (speech to text) afin de filtrer automatiquement grâce au machine learning les jurons qui peuvent être dits pendant une conversation de groupe.
Censurer en temps réel
Le but final selon Rob Smith est d’être capable de censurer ces mots à la volée “comme on le fait à la télévision lorsque deux personnes discutent”. The Verge note cependant que la télévision s’appuie toujours sur des ingénieurs qui travaillent sur des contenus diffusés avec un certain délai afin de s’accorder une marge de suffisamment grande pour traiter un problème. Dans un chat où la communication instantanée peut être la clé de la réussite, la technologie de Microsoft semble être loin d’être pratique, ou disponible.