TikTok limitait la visibilité des contenus d’utilisateurs handicapés

Le réseau social a agit ainsi afin de protéger les utilisateurs de commentaires attaquant leur physique ou leur handicap mental et du harcèlement en ligne.

Selon le site Netzpolitik.org, qui s’est entretenu avec une source interne à TikTok, une politique de gestion des risques de harcèlement particulièrement grossière était en place jusqu’au mois de septembre de cette année. Celle-ci visait à protéger les utilisateurs les plus vulnérables, c’est-à-dire les personnes défigurées et les handicapés mentaux, notamment les autistes (syndrome de Down), mais apparaît par son application brute de décoffrage comme une politique de discrimination à l’encontre de ces utilisateurs. Renforçant ce trait, le problème a été aggravé par les modérateurs qui devaient prendre des décisions rapides sur les traits physiques et mentaux des utilisateurs afin d’appliquer la règle à leurs contenus. Le principe de TikTok est de se reposer sur un algorithme qui détermine quelles vidéos seront les plus populaires, et la source de Netzpolitik allègue que cela fut rendu plus difficile par une visibilité moindre d’une certaine catégorie d’utilisateurs.

Masquer les contenus d’utilisateurs sensibles

La première façon de faire était de limiter la diffusion des vidéos de personnes handicapées au pays d’origine de l’utilisateur. Une autre fonction intitulée “Auto R” empêchait les vidéos d’apparaître dans le flux d’actualités “Pour vous” des autres utilisateurs après avoir atteint un certains nombres de vues. Si cette fonction était appliquée au cas par cas sur les vidéos, elle était activée par défaut pour certains utilisateurs. Selon le site, “Auto R” ne se limitait pas aux personnes handicapées mais pouvait s’appliquer aux LGBTI et personnes en surpoids — particulièrement exposées aux risques de harcèlement.

Une politique temporaire

The Verge rapporte qu’un porte-parole de l’entreprise désignait ces règles comme une “tentative précoce et imparfaite pour gérer les conflits”, une politique “directe mais temporaire” mise en œuvre afin de gérer le harcèlement : “Bien que l’intention ait été bonne, l’approche était erronée et nous avons depuis longtemps modifié la politique précédente en faveur de politiques plus nuancées de lutte contre l’intimidation et de protections inhérentes à l’application.”