En bref
- La Californie durcit les règles pour protéger les mineurs, notamment face aux réseaux sociaux et aux chatbots IA.
- Les plateformes devront limiter les fonctions addictives et renforcer les protections IA, avec notamment des alertes parentales et des audits de sécurité.
- Ces mesures inquiètent les défenseurs des libertés numériques, qui redoutent notamment une surveillance accrue et la généralisation de la vérification d’âge.
Pour les ados californiens, le scroll sans fin et les chatbots sans garde-fou vont devenir plus compliqués. Gavin Newsom a signé un paquet de lois qui vise les usages tech considérés comme risqués pour les mineurs, avec un vrai focus sur les réseaux sociaux et les chatbots IA.
Les chatbots IA vont devoir lever le pied
Côté IA, la Californie impose désormais des limites sur la façon dont les jeunes pourront interagir avec ces outils. Les entreprises devront intégrer des limites de temps, des ressources liées à la santé mentale, mais aussi des protocoles de sécurité si un mineur évoque l’automutilation.
Et ce n’est pas cosmétique. Si un enfant désactive certains réglages de sécurité, les parents devront être prévenus. Les sociétés d’IA devront aussi passer par des audits indépendants sur la sécurité des enfants et produire chaque année des évaluations de risques. En cas de non-respect, leur responsabilité juridique pourra être engagée. La veille, Newsom avait déjà signé des textes plus larges pour cadrer l’audit de conformité des entreprises d’IA au droit californien.
Le vrai point de friction, c’est le réseau social version ado
L’autre mesure, clairement la plus explosive, touche les moins de 16 ans. Les plateformes n’auront plus le droit de leur donner accès à des fonctionnalités considérées comme potentiellement addictives.
La définition retenue est large, et c’est bien là que ça frotte. Elle inclut la lecture automatique des vidéos, les notifications, mais aussi les fils personnalisés pilotés par algorithme. En gros, une bonne partie de la mécanique qui fait tourner les grosses applis sociales aujourd’hui.
Pourquoi les défenseurs des libertés numériques tiquent ?
Du coup, les critiques n’ont pas tardé. L’Electronic Frontier Foundation considère que cette mesure ressemble à une interdiction de fait des réseaux sociaux pour les ados.
Sa directrice associée des affaires publiques pour les États, Rindala Alajaji, estime que « priver les mineurs d’accès aux forums numériques, ou retirer les outils de base nécessaires pour s’y orienter, ne va pas aider les jeunes à être plus en sécurité ou en meilleure santé à l’ère de l’IA ». L’organisation avance aussi un autre point, pas anodin du tout: pour faire appliquer ces règles, il faudrait pousser davantage d’utilisateurs à prouver leur âge, donc à livrer plus d’informations personnelles. Le vieux débat sur la vérification d’âge revient par la grande porte.
D’autres textes serrent aussi la vis
Mais le paquet ne s’arrête pas là. D’autres lois signées par Newsom élargissent la définition de l’exploitation sexuelle des enfants pour y inclure les images générées par IA ou modifiées numériquement.
Un autre texte ajoute des protections contre la publicité ciblée et encadre l’usage, par des systèmes d’IA, des données concernant les élèves de la maternelle au lycée. Pas mal de mesures d’un coup, avec une idée simple derrière: en Californie, la tech pour mineurs ne pourra plus avancer en roue libre.
