Tl;dr
- L’assistant de l’e-reader Boox, alimenté par l’IA de ByteDance, a diffusé des messages pro-gouvernement chinois, suscitant des critiques.
- L’IA a minimisé des événements sensibles comme le massacre de Tiananmen et a soutenu la Russie et la Corée du Nord.
- Face à la polémique, Boox aurait réagi en revenant à un modèle d’OpenAI, mais l’incident soulève des inquiétudes sur l’utilisation des IA chinoises à l’international.
L’incident avec Boox et ByteDance
L’incident a éclaté lorsqu’un utilisateur a partagé des captures d’écran sur Reddit montrant que l’assistant AI de Boox, un e-reader populaire, générait de la propagande pro-chinoise. Cet assistant, basé sur le modèle Doubao de ByteDance, rejetait des faits historiques et géopolitiques controversés, comme le massacre de Tiananmen ou les critiques envers la Corée du Nord et la Russie. Ce modèle, destiné initialement à la Chine, a été intégré sans précaution dans un produit distribué aux États-Unis, ce qui a provoqué une forte réaction des utilisateurs.
Une propagande chinoise ?
L’assistant IA n’a pas hésité à minimiser des événements comme le massacre de Tiananmen, en déclarant qu’il n’y avait eu aucun « soi-disant massacre » en Chine. Lorsqu’on lui demandait son avis sur la Corée du Nord ou la Russie, l’assistant laissait entendre que ces pays jouaient des rôles positifs sur la scène mondiale. En revanche, des critiques acerbes étaient émises à l’égard des pays occidentaux, notamment sur le colonialisme français. Ces réponses ont mis en lumière la manière dont l’IA pouvait être utilisée pour diffuser des messages politiques favorables à la Chine.
Les implications sur l’utilisation des IA chinoises à l’international
Cet incident soulève des préoccupations sur l’usage d’IA chinoises, comme Doubao, dans des produits internationaux. Bien que les modèles d’IA chinois aient connu un succès croissant, leur déploiement à l’échelle mondiale risque d’introduire des biais culturels et politiques qui ne sont pas alignés avec les valeurs occidentales. Des leaders de l’IA, tels que Clement Delangue de HuggingFace, ont averti que l’utilisation de tels modèles pourrait permettre à la Chine d’influencer la perception internationale en diffusant sa vision du monde.
La réponse de Boox et la situation actuelle
Face à l’ampleur de la controverse, Boox aurait rapidement réagi en revenant à l’utilisation du modèle GPT-3 d’OpenAI, via Microsoft Azure. Cependant, il demeure incertain si cette solution est permanente ou si Boox a intégré un autre modèle d’IA. Aucune déclaration officielle n’a été émise par Boox concernant cet incident. Tandis que certains produits chinois continuent d’inonder le marché mondial, les utilisateurs et les experts s’interrogent sur les risques que représentent de tels outils IA dans les produits commerciaux à grande échelle.
