- Une automatisation des achats de Noël via IA nécessiterait un accès très large aux données personnelles (banque, messages, agenda, domicile), ce qui transforme l’assistant en système à contrôle quasi total.
- Pour Signal, cela reviendrait à créer une forme de « porte dérobée », car l’IA devrait pouvoir lire et agir sur des communications et services sensibles.
- La présidente de Signal utilise l’IA de façon limitée et rappelle surtout qu’elle n’est ni consciente ni un interlocuteur fiable, mais un outil à manipuler avec distance.
Quand on vous vend une IA capable de faire les cadeaux de Noël à votre place, le vrai sujet n’est pas le confort. C’est la quantité de portes qu’il faut lui ouvrir.
Le cadeau de Noël qui coûte bien plus que le panier
Dans un entretien accordé à Bloomberg, la présidente de Signal, Meredith Whittaker, a réagi à la prédiction de Mustafa Suleyman, patron IA de Microsoft, qui imagine des utilisateurs laissant Copilot gérer leurs achats de fin d’année. Sa lecture est beaucoup moins festive. Pour que ça marche, explique-t-elle, il faudrait donner à l’outil l’accès à la carte bancaire, au navigateur, à Signal, à l’adresse du domicile, au calendrier, et même la capacité d’écrire aux frères et sœurs à votre place. Résultat, on n’est plus dans le petit assistant malin. On est dans l’accès total.
Ce scénario d’automatisation, sur le papier, a l’air pratique. Mais Meredith Whittaker insiste sur ce qu’il implique vraiment, une IA qui écoute un groupe familial pour deviner qui veut quoi, puis agit ensuite en votre nom sur plusieurs services. Et là, le vernis craque vite. Parce qu’un système qui touche à vos messages, vos paiements et votre agenda, ce n’est pas juste un chatbot un peu plus musclé. C’est une présence partout, tout le temps.
Chez Signal, le mot qui fâche, c’est backdoor
Meredith Whittaker résume ça de façon très nette. Ce que décrit ce genre d’usage, dit-elle, c’est un système avec un accès extrêmement large à travers plusieurs applications et services. Et dans le cas de Signal, elle estime que cela reviendrait à une sorte de backdoor.
Le terme n’est pas lâché au hasard. Chez un service qui fait de la confidentialité son cœur de discours, parler de porte dérobée, même sous forme de comparaison, ça pose tout de suite l’enjeu au bon endroit.
Meredith Whittaker utilise l’IA, mais à distance
Bon, elle ne joue pas non plus le rejet total. Whittaker reconnaît qu’elle se sert d’outils d’IA pour mettre en forme un document de temps en temps.
Mais la frontière est très claire. Elle explique, en substance, qu’elle ne leur pose pas de questions. Et elle le justifie avec une formule assez parlante : « Je prends très au sérieux ma réflexion et mon écriture, et je ne veux pas que le travail pour traverser une idée soit fermé ou éclipsé par la réponse d’un système qui moyenne ce qui existe déjà ». C’est cash, et ça dit bien sa méfiance envers une machine qui lisse plus qu’elle ne pense.
Le rappel le plus simple, et sans doute le plus utile
Au début de cet échange plus large sur la politique, la vie privée et Signal, elle a posé la base. À propos de ChatGPT, Claude et des autres, Meredith Whittaker a martelé : « Ce ne sont pas vos amis. Ce ne sont pas des êtres conscients. Ce ne sont pas des interlocuteurs sensibles ».
Bref, derrière la formule, il y a une ligne assez simple. Plus on demande à une IA d’agir comme nous, plus on lui confie des bouts de nous. Et pour Signal, clairement, c’est là que ça coince.