Amazon commence à afficher des résumés des avis générés par une intelligence artificielle

Amazon commence à afficher des résumés des avis générés par une intelligence artificielle. Tout en prenant grand soin de ne pas inclure les faux avis, évidemment.

Amazon a annoncé une nouvelle fonctionnalité d’IA générative qui permet de résumer les avis sur les produits. Disponible initialement auprès d'”un petit échantillon d’utilisateurs mobiles aux États-Unis sur une large sélection de produits”, cet outil d’intelligence artificielle crée un paragraphe récapitulatif mettant en avant les thèmes dans le retour d’un client. L’entreprise avait confirmé en juin qu’elle testait un tel outil, elle démarre aujourd’hui son déploiement. Le PDG, Andy Jassy, déclarait il y a quelques jours que l’IA est “au cœur de ce que nous faisons”.

Amazon commence à afficher des résumés des avis générés par une intelligence artificielle

L’idée derrière ce résumé généré par un modèle de langage est de permettre aux clients d’avoir les impressions générales des autres clients sans avoir à parcourir tous les avis manuellement. Le résumé inclut un court paragraphe décrivant l’avis général : c’est un peu comme une version IA des sections Critics consensus et Audience says de Rotten Tomatoes. “Les clients aiment la stabilité, la facilité d’utilisation et les performances de ce service numérique”, peut-on lire dans un exemple de résumé partagé par Amazon. “Ils mentionnent que c’est bien plus rapide, l’image et la vitesse de streaming est excellente et c’est un appareil facile à connecter. Ils apprécient aussi les performances, indiquant que tout se comporte comme annoncé et fonctionne bien avec les smart TV LG 3D.”

Ce résumé est suivi de tags cliquables mettant en avant les thèmes pertinents et autres mots clefs fréquemment cités dans les vis. Cliquer sur l’un d’eux vous amène aux avis complets sur ce thème.

Tout en prenant grand soin de ne pas inclure les faux avis, évidemment

Pour Amazon, c’est aussi un moyen de lutter contre les faux avis. Le revendeur explique “avoir bloqué de manière proactive plus de 200 millions de faux avis suspectés” sur la seule année 2022, allant parfois même jusqu’à attaquer en justice les coupables, mais cela ne signifie pas qu’elle les détecte et les bloque tous. Se pose aussi la question de savoir si de faux avis générés par l’IA – via ChatGPT ou autre – sont plus difficiles à détecter pour Amazon que des avis de vrais clients humains.

Dans la stratégie du géant, cet outil de résumé sera déployé sur les achats vérifiés tout en utilisant des modèles IA capables de détecter les avis douteux – et demander une analyse humaine en cas de besoin. “Nous continuons d’investir des ressources significatives pour faire cesser les faux avis”, expliquait Vaughn Schermerhorn, de Amazon. “Cela inclut des modèles de machine learning qui analysent des milliers de points pour détecter le risque, y compris les relations avec d’autres comptes, les activités de connexion, l’historique des avis et d’autres indicateurs de comportement inhabituel, ainsi que des enquêteurs experts qui utilisent des outils de détection de fraude sophistiqués pour analyser et éviter que les faux avis apparaissent sur notre plateforme. Ces nouveaux résumés d’avis générés par l’IA n’utilisent que les avis de confiance sur les achats vérifiés, pour nous assurer que les clients puissent facilement saisir l’opinion générale de la communauté.”