En bref
- Meta renforce la surveillance de Meta AI face aux risques de suicide chez les ados.
- Les parents pourront recevoir des alertes après vérification des conversations sensibles.
- Meta prépare aussi des alertes vers les secours en cas de danger immédiat.
La vraie info, elle est là. Les géants de l’IA commencent à traiter leurs chatbots comme des espaces à haut risque, surtout quand des ados s’y confient. Chez Meta, ça se traduit par un cran de plus sur Meta AI, avec des alertes parentales en cas de discussion autour du suicide ou de l’automutilation.
Les chatbots n’ont plus droit à l’erreur
Ce changement n’arrive pas dans le vide. Meta, comme d’autres groupes tech, avance sous le regard des régulateurs et des parents, qui scrutent de plus en plus la manière dont une IA répond à quelqu’un en pleine crise. Et quand l’utilisateur est mineur, la question de la responsabilité devient tout de suite beaucoup moins théorique.
On voit très bien où ça mène. La façon de concevoir, cadrer et vendre ces assistants IA se joue aussi sur ce terrain-là. Pas seulement sur les performances. Sur le risque.
Ce que Meta va envoyer aux parents
Concrètement, Meta explique avoir mis en place un système d’IA dédié pour repérer les conversations où un adolescent fait clairement référence au fait de se faire du mal. Avant qu’une alerte parte, chaque échange signalé sera vérifié manuellement. C’est important, parce que la boîte reconnaît elle-même que le sujet est sensible et que ses outils de détection doivent encore être affinés.
Et si l’intention de l’ado n’est pas limpide, Meta dit qu’il choisira la prudence et enverra quand même une alerte. Oui, cela peut produire des faux positifs. Mais le groupe considère que c’est le bon point de départ.
Ces notifications sont déjà actives pour les parents qui utilisent la supervision parentale sur Instagram aux États-Unis, au Royaume-Uni, en Australie et au Canada. Le déploiement mondial est annoncé d’ici la fin de l’année.
Instagram et Meta AI sont désormais liés
Ce n’est pas une feature sortie de nulle part. Meta envoyait déjà des alertes aux parents quand leur ado recherchait de façon répétée des termes liés au suicide ou à l’automutilation sur Instagram. Il existe aussi un outil permettant aux parents de voir les thèmes abordés avec Meta AI sur la semaine écoulée.
Même logique pour le réglage Limited Content. Ce mode, qui rend l’expérience plus restrictive sur Instagram, s’applique maintenant aussi au chatbot. Meta AI évitait déjà les discussions sexuelles, romantiques ou liées à l’alcool avec les ados. Avec ce réglage, l’assistant refusera une plage plus large de requêtes, sans que Meta détaille lesquelles. Un peu flou, quand même.
La prochaine étape, prévenir les secours
Et Meta ne compte pas s’arrêter aux parents. L’entreprise travaille aussi sur la possibilité de contacter les services d’urgence si une conversation avec Meta AI laisse penser qu’une personne risque de se suicider. Là, adultes et adolescents sont concernés.
Ce réflexe existe déjà sur Facebook et Instagram quand une publication suggère un danger immédiat. La nouveauté, c’est l’extension de cette pratique aux échanges privés avec le chatbot. Bref, l’IA de Meta n’est plus seulement là pour répondre. Elle entre franchement dans le champ de la prévention.
