En bref
- Pavel Durov affirme que le retrait temporaire de Telegram de l’App Store serait lié à une campagne de signalements frauduleux assistée par IA.
- Il accuse Apple d’avoir réagi trop vite et alerte sur un risque pour toutes les plateformes utilisant du contenu créé par leurs utilisateurs.
- L’affaire relance le débat sur la modération en ligne, amplifié par les nouvelles capacités de l’intelligence artificielle.
Quand une appli à contenu généré par les utilisateurs peut sauter d’un store à cause d’un signalement manipulé, le sujet dépasse largement le cas de Telegram. C’est exactement l’alerte lancée par Pavel Durov, après la brève disparition de l’app sur l’App Store d’Apple. Et là, oui, ça pique un peu.
Un vieux message, retouché, puis signalé en meute
Sur le réseau social X, Pavel Durov raconte un scénario assez sale. Selon lui, un acteur malveillant aurait repris un ancien message dans un groupe encore actif pour le modifier et y afficher un contenu illégal retouché par IA. Le piège, c’est que ce post n’aurait pas été vu ni signalé par les membres du groupe.
La suite, d’après lui, ressemble à une mécanique de chantage bien huilée. L’idée aurait été de menacer Telegram, puis d’utiliser une flotte de comptes automatisés pour signaler massivement ce même message à Apple si l’entreprise refusait de payer. Bref, pas un simple abus isolé, mais une attaque pensée pour déclencher une sanction de plateforme.
Pourquoi la réaction d’Apple pose un vrai problème ?
Le point le plus tendu dans la version de Durov, c’est la chronologie. Il affirme qu’Apple a retiré Telegram de l’App Store avant même de contacter l’entreprise. Sa formule est limpide, et elle tape juste : « Les maîtres chanteurs ont trouvé un moyen de pousser Apple à surréagir ».
Pour lui, ce n’est pas seulement une galère passagère pour Telegram. Il parle d’un risque systémique pour toutes les applis mobiles qui hébergent des publications, messages ou fichiers envoyés par leurs utilisateurs. Et franchement, on voit très bien le problème. Si le signalement devient une arme, la modération peut se retourner contre ceux qui l’utilisent.
Un débat ancien, que l’IA rend encore plus explosif
La responsabilité des plateformes pour les actes potentiellement illégaux de leurs utilisateurs, ce n’est pas nouveau. Les réseaux sociaux se coltinent ce débat depuis des années, et Telegram comme Pavel Durov ont déjà été au centre de ces questions.
Mais l’affaire prend une autre ampleur avec les outils actuels. Entre les chatbots capables d’éditer des images ou des vidéos, et des agents qui exécutent des tâches à grande vitesse, l’IA peut rendre ce type d’attaque beaucoup plus simple à monter. Résultat ? Une vieille bataille sur la modération, avec des armes nettement plus efficaces.
