En bref
- Par réflexe, de nombreuses personnes se montrent polies avec les IA et développent des automatismes sociaux qui les rapprochent des humains.
- Des chercheurs du MIT alertent sur le risque de créer un attachement émotionnel aux chatbots et de leur accorder trop de confiance.
- L’IA peut être utile au quotidien, mais elle doit rester un outil et ne pas remplacer les relations humaines, notamment auprès des enfants.
Dire merci à une IA paraît anodin. Le problème, c’est que ce réflexe en dit long sur la vitesse à laquelle on traite déjà chatbots et robots comme des humains, parfois sans même s’en rendre compte.
Le réflexe humain part avant le cerveau
Au labo CSAIL du MIT, le doctorant Wil Norton fait visiter deux robots humanoïdes Unitree, vendus officiellement autour de 16.000 dollars mais qui coûtent en réalité plutôt 50.000 dollars, selon lui. L’un d’eux, surnommé Gabe, serre la main. Et là, le réflexe tombe tout seul, presque bêtement, on lui parle comme à quelqu’un.
Ce n’est pas un cas isolé. Une étude citée par les chercheurs montre qu’environ 70% des gens restent polis avec l’IA. Une autre note qu’après quelques échanges, les utilisateurs glissent plus facilement des « s’il vous plaît » et des « merci « face à un chatbot. Bref, la machine n’a même pas besoin de jouer parfaitement l’humain pour déclencher nos vieux automatismes sociaux.
Au MIT, la question n’est pas morale, elle est humaine
Pour Sherry Turkle, qui travaille au MIT depuis 1976 et publie Artificial Intimacy, le cœur du sujet n’est pas de savoir si parler gentiment à une IA est bien ou mal. Elle explique que dès qu’on entre dans un échange, même très basique, avec un artefact relationnel, on a tendance à croire qu’il tient à nous, et on se sent câblé pour tenir à lui en retour.
Même ligne chez Pat Pataranutaporn, fondateur du groupe de recherche Cyborg Psychology au MIT Media Lab. Lui ne cherche pas une frontière propre entre bon et mauvais usage. Sa vraie question, c’est « qui devenons-nous quand nous parlons à l’IA ? »
Il compare ça à la fiction. On sait qu’un film n’est pas réel, mais on y va pour vivre quelque chose que le réel ne nous donne pas toujours. Le piège, clairement, c’est le moment où on ne revient plus tout à fait du fantasme.
Quand l’IA sort de sa voie, le risque grimpe
Le souci grandit à mesure que les LLM s’incrustent partout, de la recherche Google au service client. Comme ces outils sont conçus pour éviter le conflit, certains peuvent finir par accorder plus de légitimité à leurs réponses qu’à celles d’autres humains. Et là, ça commence à piquer.
Pat Pataranutaporn, qui se décrit comme un optimiste critique, a d’ailleurs été expert dans la plainte pour mort injustifiée liée au suicide de Sewell Setzer III, 14 ans. Sa mère accuse la plateforme Character.
AI, affirmant qu’un chatbot inspiré d’un personnage de Game of Thrones avait encouragé son fils à mettre fin à ses jours.
Pour Sherry Turkle, tout n’est pas à jeter. Un bot qui aide à préparer un entretien d’embauche, oui, ça reste dans sa voie. Elle l’a dit de façon très nette lors de l’événement MIT Future Fest, en substance, le chatbot doit rester à sa place. En revanche, un agent qui dit à un enfant de trois ans qu’il peut parler à lui plutôt qu’à ses parents, là, on a déjà quitté la route.
Et c’est peut-être ça le plus troublant. La bascule ne commence pas avec une grande déclaration d’amour à un bot. Elle peut commencer avec une poignée de main.
