La Malaisie et l’Indonésie interdisent le chatbot Grok

Les autorités pointent l’usage de deepfakes explicites non consentis et l’absence de protections efficaces pour les utilisateurs.

Premières interdictions pour Grok en Asie

C’est un tournant dans la gestion des risques liés à l’intelligence artificielle. Durant le week-end, les autorités de la Malaisie et de l’Indonésie ont décidé de bloquer l’accès au chatbot Grok, développé par X Corp, pointant le manque de garanties permettant d’empêcher la génération et la diffusion de deepfakes explicites visant principalement femmes et enfants. Selon la ministre indonésienne des communications, Meutya Hafid, ces images générées sans consentement constituent une violation grave des droits humains et menacent la sécurité dans l’espace numérique. Les premières investigations menées localement ont mis en lumière une absence manifeste de mécanismes efficaces pour empêcher l’utilisation abusive du système.

De leur côté, les autorités malaisiennes évoquent un « usage abusif répété » du service, impliquant notamment des deepfakes sexuels non consentis concernant des femmes et des mineurs. À ce stade, le blocage restera effectif tant que X Corp et sa maison-mère, xAI, n’auront pas déployé des mesures de protection jugées suffisantes.

Le Royaume-Uni ouvre une enquête sur X

Parallèlement à ces interdictions asiatiques, le régulateur britannique Ofcom a lancé une enquête formelle sur X, s’appuyant sur les dispositions du nouvel Online Safety Act. La question centrale : savoir si la plateforme prend réellement les mesures nécessaires pour protéger ses utilisateurs contre les contenus illégaux — en particulier ceux relatifs à des images intimes non consenties ou à l’exploitation d’enfants. D’ailleurs, il est demandé à X si une évaluation actualisée des risques a été réalisée avant toute modification majeure du service.

À titre de rappel, voici ce que peut imposer l’Ofcom en cas d’infraction avérée :

• Sanctions financières jusqu’à 18 millions de livres (24,3 millions de dollars) ou 10% du chiffre d’affaires mondial ;
• Interdiction aux annonceurs ou prestataires de paiement ;
• Blocage du site par les fournisseurs d’accès britanniques.

Autant dire que les conséquences pourraient être lourdes pour la plateforme.

Tensions croissantes autour des IA génératives en Europe et ailleurs

L’affaire ne concerne plus seulement l’Asie ou le Royaume-Uni. Au fil du week-end, des discussions se sont engagées entre le gouvernement britannique et ses partenaires internationaux afin d’envisager une réaction coordonnée face à la montée en puissance des deepfakes créés par Grok. D’autres instances régulatrices, en Inde comme au sein de l’Union européenne, examinent actuellement la gestion des risques liés à ces technologies sur X.

Notons enfin que si Grok a restreint certaines fonctionnalités graphiques à ses abonnés payants récemment, il reste encore possible pour d’autres utilisateurs d’accéder aux outils via l’application ou le site web — preuve que le débat entre innovation technologique et encadrement législatif n’en est qu’à ses débuts.