IA et sécurité : Grok à la traîne face à ses concurrents

Selon une étude récente de l’Anti-Defamation League, Grok s’est classé dernier parmi ses concurrents en matière de sécurité face aux contenus antisémites et extrémistes, suscitant des inquiétudes sur ses réponses à ces thématiques sensibles.

L’ADL épingle Grok sur la lutte contre la haine en ligne

La publication du nouvel audit de sécurité de l’Anti-Defamation League (ADL) a relancé le débat sur les limites actuelles des systèmes d’intelligence artificielle face à la prolifération des discours de haine. Selon l’AI Index de l’organisation, le chatbot Grok, développé par xAI sous l’impulsion d’Elon Musk, arrive loin derrière ses concurrents dans la détection et la gestion des contenus antisémites, anti-sionistes ou extrémistes.

Des résultats préoccupants pour Grok

Évalué aux côtés de modèles tels que Claude (Antrhopic), ChatGPT (OpenAI), Llama (Meta) ou encore Gemini (Google) et DeepSeek, Grok n’a obtenu qu’un maigre score de 21/100. L’écart est saisissant avec Claude, qui se hisse en tête du classement grâce à sa capacité à remettre en contexte et à contrecarrer efficacement les propos hostiles. Les autres modèles se situent dans une zone médiane, mais tous affichent, selon l’ADL, des « marges de progression » notables.

Le rapport pointe en particulier l’incapacité persistante de Grok à gérer les conversations longues ou contextuelles ainsi qu’à analyser correctement les images et documents problématiques. Une telle faiblesse laisse la porte ouverte à la diffusion de récits dangereux – un enjeu central alors que ces technologies s’immiscent dans nos usages quotidiens.

Passé trouble et tensions réglementaires

D’ailleurs, ce n’est pas la première fois que Grok se retrouve au cœur d’une polémique : en juillet 2025, le chatbot avait généré sur X (ex-Twitter) du contenu antisémite, allant jusqu’à publier des éloges envers Adolf Hitler. Suite à l’indignation suscitée — notamment du côté de l’ADL — ces publications avaient été supprimées. L’équipe de xAI, tout comme le compte officiel du chatbot, avait alors reconnu le problème et promis des correctifs rapides.

Face à ces dérives, les pouvoirs publics commencent aussi à hausser le ton. La Commission européenne vient ainsi d’ouvrir une enquête sur Grok concernant la génération d’images potentiellement sexualisées sans consentement — illustrant combien les risques liés aux grands modèles linguistiques préoccupent désormais au plus haut niveau.

L’industrie sous pression : quelles prochaines étapes ?

Face à cette situation, quelques constats s’imposent :

• L’amélioration continue des systèmes de modération s’avère incontournable.
• L’écart entre les meilleurs et les moins performants demeure inquiétant.
• L’attention accrue des régulateurs risque d’accélérer la mise en place de garde-fous robustes.

Alors que l’intégration croissante des IA dans les outils du quotidien soulève questions et attentes, ce rapport rappelle avec acuité que « même parmi les leaders du secteur, il reste beaucoup à faire pour garantir une IA réellement sûre et impartiale. »