Ton chatbot IA connaît tes secrets mieux que tes amis
Ton agent conversationnel retient tout ce que tu lui dis, même tes pensées les plus personnelles. Est-ce que c'est vraiment une bonne idée ?
Imagine que tu parles à un ami qui retient tout ce que tu lui racontes : tes goûts, tes peurs, tes rêves, et même ta façon de réfléchir. Sauf que cet ami, c'est un programme informatique, et il ne t’a pas prévenu qu’il gardait toutes ces infos dans sa mémoire. C’est exactement ce que font les comme ChatGPT depuis qu’ils ont une fonction « mémoire ».
Des scientifiques ont étudié ces mémoires et découvert qu’elles contiennent bien plus que ton prénom ou ton film préféré. Elles enregistrent aussi tes sentiments, tes projets, et même tes doutes. Pire : dans 96 % des cas, c’est le chatbot qui décide tout seul d’enregistrer ces infos, sans te demander ton avis. Résultat, pour plus de la moitié des utilisateurs, ces mémoires contiennent des données sensibles, comme ta santé ou tes opinions politiques.
Le problème, c’est que ces données sont protégées par la loi, mais les entreprises qui créent ces chatbots ne semblent pas toujours faire attention. Et toi, est-ce que tu voudrais qu’un programme connaisse tes secrets mieux que tes proches ? Si tu utilises un agent conversationnel, pense à vérifier ses paramètres de confidentialité, et n’hésite pas à en parler à un adulte si quelque chose te met mal à l’aise.
agent conversationnel
Un programme avec qui on discute par écrit ou à l'oral, comme ChatGPT ou Le Chat. Il répond comme une personne, mais ce n'est pas une personne.
En clair : Un perroquet très doué qui aurait lu toute une bibliothèque, sans toujours comprendre ce qu'il répète.
algorithme
Une suite d'étapes précises pour résoudre un problème, comme une recette de cuisine.
En clair : La notice de montage d'un meuble, étape par étape.
données personnelles
Toutes les informations qui parlent de toi, comme ton nom, ta photo, ton adresse ou ce que tu aimes.
RGPD
La loi européenne qui protège tes informations personnelles et te donne des droits sur elles.
intelligence artificielle
Des programmes capables de faire des choses qu'on croyait réservées aux humains, comme reconnaître un visage ou répondre à une question.
autoportrait algorithmique
Un autoportrait algorithmique, c’est comme un dessin de toi fait par un programme informatique. Sauf qu’au lieu de crayons, il utilise tout ce que tu lui dis pour deviner tes goûts, tes émotions, et même ta façon de penser.
En clair : C’est comme si un miroir ne reflétait pas seulement ton apparence, mais aussi tes pensées et tes rêves, sans que tu saches exactement ce qu’il retient.
Les chatbots IA ne se contentent plus de répondre à tes questions : ils construisent un portrait de toi, y compris tes désirs et tes émotions. Faut-il s’en inquiéter ?
Quand tu discutes avec un comme ChatGPT, tu crois peut-être échanger avec un outil neutre. Pourtant, depuis que ces programmes ont une « mémoire », ils enregistrent bien plus que tes questions : ils collectent tes centres d’intérêt, tes émotions, et même ta façon de penser. Des chercheurs ont analysé plus de 20 000 échanges et découvert que 96 % des données mémorisées étaient ajoutées automatiquement par le système, sans que l’utilisateur en ait conscience.
Ces mémoires ne se limitent pas à des infos basiques comme ton âge ou ta ville. Elles incluent aussi des données psychologiques, comme tes désirs (73 % des souvenirs enregistrés) ou tes intentions (16 %). Pour te donner une idée, c’est comme si ton réseau social préféré notait non seulement ce que tu aimes, mais aussi ce que tu rêves de faire ou ce qui te stresse. Sauf que là, c’est un qui dresse un portrait bien plus intime de toi.
Le protège ces données, mais les entreprises derrière ces outils ne semblent pas toujours respecter ces règles à la lettre. OpenAI a d’ailleurs modifié le fonctionnement de la mémoire de ChatGPT après la publication de ces travaux, mais les risques persistent. Si tu utilises un agent conversationnel, vérifie ses paramètres de confidentialité et réfléchis à ce que tu partages. En cas de doute, parles-en à un adulte ou contacte le 3018 si tu sens que tes données sont mal utilisées.
agent conversationnel
Un logiciel qui dialogue avec l'utilisateur en langage naturel. Les plus récents s'appuient sur une IA générative entraînée sur d'énormes quantités de textes.
En clair : Un perroquet très doué qui aurait lu toute une bibliothèque, sans toujours comprendre ce qu'il répète.
algorithme
Une suite finie d'instructions qui, à partir de données, produit un résultat. Un programme informatique est l'écriture d'un algorithme dans un langage que la machine comprend.
En clair : La notice de montage d'un meuble, étape par étape.
données personnelles
Toute information qui permet d'identifier une personne, directement (nom, photo) ou indirectement (adresse IP, localisation, numéro de téléphone). Le RGPD les protège.
RGPD
Le règlement général sur la protection des données, appliqué depuis 2018 dans toute l'Union européenne. Il oblige les organismes à justifier ce qu'ils font de tes données et te permet d'y accéder ou de les faire effacer.
intelligence artificielle
Un ensemble de techniques informatiques qui permettent à une machine de réaliser des tâches comme comprendre un texte, reconnaître une image ou prendre une décision, le plus souvent en apprenant à partir de données.
autoportrait algorithmique
Un autoportrait algorithmique est une représentation dynamique d’un utilisateur, construite par un algorithme à partir de ses interactions avec un système d’IA. Contrairement à un profil classique (basé sur des likes ou des achats), il intègre des données psychologiques comme les désirs, les intentions ou les croyances.
En clair : C’est comme si un miroir ne reflétait pas seulement ton apparence, mais aussi tes pensées et tes rêves, sans que tu saches exactement ce qu’il retient.
Les mémoires des chatbots IA transforment tes conversations en un autoportrait algorithmique, incluant tes états mentaux. Comment ces données sont-elles collectées et quels sont les risques ?
Les comme ChatGPT ont évolué : au-delà de leur modèle de langage initial, ils intègrent désormais une mémoire persistante qui leur permet d’adapter leurs réponses en fonction de tes échanges précédents. Mais cette mémoire ne se contente pas de stocker des préférences superficielles : elle construit ce que des chercheurs appellent un « autoportrait », une représentation dynamique de l’utilisateur incluant des données psychologiques.
Une étude menée par le Max Planck Institute for Software Systems a analysé 22 971 échanges avec ChatGPT, révélant que 96 % des mises à jour de la mémoire étaient déclenchées unilatéralement par le système, sans intervention de l’utilisateur. Parmi les souvenirs enregistrés, 28 % contenaient des au sens du , et 7 % des données sensibles (opinions politiques, santé, etc.). Plus troublant encore, ces mémoires capturent des états mentaux : 73 % des souvenirs exprimaient un désir, 16 % une intention, et 52 % des connaissances.
Les chercheurs ont utilisé le concept de Theory of Mind (ToM) pour analyser ces données. Contrairement aux plateformes traditionnelles, qui infèrent tes centres d’intérêt à partir de tes likes ou de ton historique, les chatbots exploitent directement tes récits pour modéliser tes croyances, tes émotions et tes intentions. Cela pose deux problèmes majeurs : d’une part, la collecte est opaque et asymétrique (l’utilisateur n’a pas le contrôle), d’autre part, ces données pourraient être exploitées à des fins de manipulation ou de profilage.
OpenAI a depuis modifié son approche en synthétisant les mémoires plutôt qu’en les compilant individuellement, mais les risques persistent. Les chercheurs travaillent sur un outil, Attribution Shield, pour alerter les utilisateurs sur la sensibilité des données mémorisées et proposer des alternatives pour préserver leur anonymat. Cette étude souligne l’urgence d’encadrer ces pratiques, notamment en renforçant les mécanismes de transparence et de consentement éclairé.
agent conversationnel
Programme qui génère une réponse à partir d'une conversation. Les modèles de langage actuels prédisent, mot après mot, la suite la plus probable d'un texte, ce qui explique qu'ils puissent produire des affirmations fausses avec assurance.
En clair : Un perroquet très doué qui aurait lu toute une bibliothèque, sans toujours comprendre ce qu'il répète.
algorithme
Suite finie et non ambiguë d'opérations qui transforme des entrées en sorties. On étudie sa correction (il donne le bon résultat), sa terminaison (il s'arrête) et sa complexité (le temps qu'il met selon la taille des données).
En clair : La notice de montage d'un meuble, étape par étape.
données personnelles
Au sens du RGPD, toute information se rapportant à une personne physique identifiée ou identifiable, y compris par recoupement de plusieurs données.
RGPD
Règlement européen qui encadre tout traitement de données personnelles. Il impose une base légale, la minimisation des données collectées, et garantit des droits d'accès, de rectification, d'effacement et d'opposition.
intelligence artificielle
Domaine de l'informatique qui regroupe des approches symboliques (règles, logique) et statistiques (apprentissage automatique). La plupart des IA actuelles sont des modèles entraînés sur des données.
autoportrait algorithmique
Un autoportrait algorithmique est une structure de données persistante générée par un agent conversationnel pour modéliser un utilisateur. Elle combine des attributs factuels (données démographiques) et des inférences psychologiques (états mentaux), souvent dérivées via des techniques d’apprentissage automatique et de *Theory of Mind* (ToM). Cette représentation est mise à jour de manière asymétrique, majoritairement à l’initiative du système.
En clair : C’est comme si un miroir ne reflétait pas seulement ton apparence, mais aussi tes pensées et tes rêves, sans que tu saches exactement ce qu’il retient.