L'IA, une amie qui vous fait du bien ?

« Il ne reste alors qu’à franchir un nouveau cap technologique : inventer des IA capables non seulement d’exécuter, mais de dialoguer. C’est précisément le pari qu’a fait OpenAI, une petite organisation fondée en 2015 avec une ambition immense : créer une intelligence artificielle ouverte et bénéfique pour l’humanité ».

– Fanny Jacq, L’IA, une amie qui vous fait du bien ?

On va voir à quel moment cela a dérapé, exactement.

Dès 1960, le programme Eliza mimait une conversation, “simplement” en reprenant des termes de la phrase précédente, et en les réarrangeant, afin de la reformuler comme une question. Ses utilisateurs avaient l’impression d’avoir un humain face à eux, et ce fut probablement le premier programme à donner l’impression de réussir le test de Turing.

Ce qui fait la profondeur du jugement humain, c’est l’empathie, la nuance, mais aussi le mur de confrontation “qui fait mal, mais qui fait du bien”. Les quelques fois où j’ai rencontré un (bon) psy, c’était ce piquant qui remettait les idées en place qui permettait d’avancer, plus que la discussion.

Antropomorphisme

Ce n’est pas la technologie qui impressionne, mais l’illusion de la vie et de l’apprentissage : a plus un objet acquière des comporte “lisibles” (voire logiques), au plus nous sommes enclins à le traiter comme un être vivant. “Anthropomorphiser” une IA est dangereux, car on lui octroierons un jugement “réfléchi”, en l’utilisant comme un copain, un psy ou un professeur, et non pour ce qu’elle est réellement. L’anthropomorphisme a aussi comme conséquence de créer l’illusion d’avoir un interlocuteur à disposition à n’importe quel moment de la journée, alors qu’il s’agit juste d’une machine qui répond de manière humaine:

• Pour le cerveau, l’impact est réel : quel que soit le moment, quelle que soit la question, il obtient une réponse - quelqu’en soit sa nature, sa justesse ou sa véracité.
• Pour les enfants, dont le cerveau n’est pas encore construit, une IA ne dira jamais “non”: elle répondra systématiquement avec une constance et un ton neutre, sans aucune frustration, contradiction ou émotion négative. Avec un impact colossal sur la construction de l’identité.

“Parler” avec une machine à plusieurs avantages, comme la possibilité d’être disponible h24, de ne pas juger, d’être polie tout le temps, de valoriser nos propos et de ne jamais contredire - ou jamais brutalement. Là où certains humains échouent parfois à écouter vraiment (il y a des méthodes, pour ça…), l’IA offre l’illusion d’une présence constante et patiente.

“La machine qui parle ne dit rien d’elle-même, et tout de nous : elle révèle nos attentes, nos manques et nos illusions. Elle est le miroir de nos besoins affectifs, de nos fragilités sociales et de notre imaginaire collectif. […] … et flatter nos attentes sociales, en favorisant par exemple des voix féminines par défaut, et en réfléchissant nos biais culturels.”

– (Pages 41-42)

Une IA répond toujours que le même ton, ne coupe pas la parole, ne regarde pas son téléphone lorsque l’on lui parle, … Ce que les gens recherchent, ce n’est pas une machine plus compétente, mais une machine plus disponible, sans friction, qui “écoute” sans interrompre. Le hic, c’est que chaque évolution psychologique (cf. https://grimbox.be/blog/organisation/team-communication/) impose de sortir de sa situation “de confort” (= celle que l’on connaît déjà), et exige une résistance - sous réserve d être dosée et bienveillante ! - sans quoi il ne sera pas possible d’avancer. Ne pas subir cet inconfort, c’est ne pas avancer.

N’ayant pas de conscience, une IA n’a aucune idée des conséquences de ses réponses, et comme elles arrivent de manière rapide et concise, “avec panache”, elles sont crédibles naturellement et amenuisent tout aussi vite la curiosité et l’esprit critique.

Usages

L’usage contrôlé d’une IA suppose une éducation numérique avancée : si l’IA est réellement juste un outil¹, il convient de l’utiliser comme tel ; c’est-à-dire comme une assistante qui complétera ou vérifiera des informations dont vous connaissez l’authencité - et pas l’inverse. Or, on retrouvera :

1. D’un côté, des utilisateurs qui l’utiliseront de la manière adéquate, pour ce qu’elle est (amélioration de la communication, documentation, structure de la pensée, …),
2. Et de l’autre, une partie qui cherchera du réconfort ou de la reconnaissance, une disponibilité permanente et une écoute, et qui s’en contentera, avec un côté un peu magique et inéluctable.

Ceci nécessite de connaître et de comprendre ses avantages et faiblesses, pour en profiter à leur juste valeur.

Echanges

Beaucoup de personnes ne supportent plus de s’ennuyer, et ont un besoin incessant de bruit, d’images et d’activités autour d’eux, là-maintenant-tout-de-site - quitte à générer de la frustration ou de la friction dès lors que cela ne va pas assez vite.

Pour remonter à l’origine de cette disponibilité instantanée, je ne chercherais pas au niveau des assistants vocaux type Siri ou Alexa - qui se sont imposés au fond de poches et dans certains salons -, mais plus loin encore, à l’époque IRC/ICQ/MSN, où les listes de contacts grandissaient au point que nous trouvions systématiquement quelqu’un de connecté, quelle que soit l’heure de la journée.

Une discussion, c’est du verbal (7%), du non verbal (38%) et du visuel (55%). A contrario, les échanges informatisés sont “plats” et dénués de contexte : un “OK”, c’est mille significations différentes, et il est parfois plus facile d’envoyer un emoji que de faire face à une confrontation. C’est efficace, mais totalement appauvri.

Double effet kiss cool : il est si facile de mentir ou de montrer uniquement le bon côté d’une situation sur internet ; la comparaison avec des gens heureux, riches, qui ont réussi … est omniprésente et confrontante².

Perte de sens

Le texte de Fanny jacq met de côté l’origine des data sets, en indiquant provenir de sources “comme Wikipedia, sites internet, forums ou de bibliothèques généralement publiques”. Le fait que ces datasets aient été spoliés de manière totalement illégale, en bypassant les licences d’utilisation et en bafouant le consentement des utilisateurs me semble justement être un point critique lié à la santé mentale. On te présente une “révolution” technologique, qui :

1. Va te permettre d’être viré de ton boulot 🙌
2. A probablement été entraînée sur l’ensemble des échanges et des œuvres que tu as créés 🎉
3. Que l’on te fait payer à prix plein 💵💵💵
4. Et qui a des impacts écologiques, économiques et sociaux colossaux.

… et tu devrais l’accueillir les bras ouverts. Il me semble légitime de rencontrer une perte de sens.

L’origine d’OpenAI avait un vrai sens commun et un objectif humaniste, qui rencontrait une réelle avancée technologique. A présent, c’est une société de la Silicon Valley comme n’importe quel autre MAGAM, qui recherche ses investisseurs et appuis politiques, et qui va probablement pomper l’ensemble de vos données personnelles (et massacrer le peu d’humanité qu’il reste d’Internet) sans autre conscience que celle d’enrichir un peu plus son Conseil d’Administration.

Self Care

En 2026, une campagne de pub pour friend.com est apparue, et promet un assistant IA avec une écoute permanente au travers d’un collier - un bijou, donc - qui associe société de consommation avec consolation et disponibilité “as a service”. Un gadget qui peut donc devenir un objet clinique, avec un risque réel d’influence en continu, sans besoin de sollicitation.

Nous remarquons un énorme paradoxe : la société est de plus en plus connectée, sans arriver à conserver les métiers et services essentiels (ce qu’on voit ecore plus maintenant avec les incendies en Europe de l’Ouest de l’été 2026). Il existe des milliers d’applis de “Self care”, et la plupart - sous couvert de nous rendre plus résilient - favorisent encore plus la performance, en notifiant l’utilisateur qu’il a oublié sa séance de méditation depuis 3 jours ou en publiant les résultats sur des plateformes de média sociaux. Sous couvert de veiller sur nous, nous devenons encore plus dépendants.

En psychothérapie, reformuler le chaos intérieur en mots porte le nom de travail d’élaboration émotionnelle. C’est une forme de neutralité bienveilllante, et la personne n’a pas besoin que l’on lui change les idées, mais plutôt qu’on l’aide à penser. J’ai souvent l’impression de manquer de vocabulaire, là où une IA est alimentée par tellement de vocabulaire, qu’elle “trouve toujours le mot” (statistiquement).

Une des utilisations positives de l’outil consiste en un support metacognitif, c’est à dire qu’il aide à réfléchir sur soi, à garder le cap entre deux étapes. Le danger n’est cependant pas que l’outil dise des bêtises, mais qu’il soit manipulé :

• Bien utilisé, il agit comme un psy numérique d’appoint,
• Tandis que mal utilisé, il peut conforter les mauvaises habitudes (chercher les validations, ignorer le contexte, éviter la confrontation). Dans ces cas, comme l’IA reformule et autorise une soupape de décompression pour ne pas agir sous l’impulsion.

Un des problèmes est qu’on finit par perdre du temps en micro-transactions, dans lesquelles on finit par perdre en qualité, partiellement à cause de limites techniques de l’outil. Comme l’IA fonctionne avec des analyses statistiques, elle “lisse” ses réponses et réapprend en intégrant ses propres erreurs - c’est à dire qu’elle normalise l’humain selon ses propres moyennes, en effaçant de facto les singularités.

Lorsqu’elle en rencontre une (de singularité), il y a un risque réel de lui prodiguer des réponses correspond aux 95% autres de la population - à qui ce type de response correspond entièrement. L’éthique est importante ici, car un algorithme commercial va chercher l’engagement et l’habitude plutôt que la justesse et la vérité.

Atrophie cognitive

Là où l’écriture fixe les idées, l’IA les fabrique à notre place. Le risque n’est pas théorique : il est quotidien. En lui confiant nos recherches, nos courriers, nos argumentaires, nos réflexions même les plus personnelles, nous cessons peu à peu d’exercer le muscle de la pensée. C’est ce que le philosophe Fabrice Gzil appelle l’atrophie cognitive assistée : un glissement doux mais continu vers la délégation intellectuelle : on ne vérifie plus, on ne doute plus, on ne reformule plus. La machine produit, nous validons. A force de ne plus avoir besoin d’élaborer, on perd l’habitude, puis la capacité.

A cela, on ajoute une délégation de l’esprit critique, et une perte d’apprentissage profond - esprit critique qui était déjà bien entamé par les orientations des média sociaux, qui nous complaisent dans des éléments affichés en fonction du profil de l’utilisateur, et qui est repris sous le terme de “chambre d’écho” : les plateformes finissent par ne nous montrer que ce que nous aimons. Il s’agit d’une sorte de biais technologique, que l’on combat par une meilleure hygiène numérique, en faisant attention aux traces que nous laissons par nos explorations des Internets multimédia.

L’IA n’aide pas toujours à penser : elle peut parfois au contraire empêcher de penser autrement.

– (page 172).

Il est important d’accompagner et d’éduquer plutôt qu’interdire : expliquer ce qu’est un modèle de langage, apprendre à formuler une demande, à poser des limites, …

After 6 months, pupils using AI saw their average homework score rise by 18% across all subjects. The time they took to complete each assignment fell from an average of 64 minutes to 45. But come exam time, the same students scored 20% below their classmates who had not called on AI’s help.

The Generative AI Learning Penalty: Evidence from Chinese Secondary Education

-- https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6868618 -- https://archive.is/w1eng

A lire aussi :

• “Quand l’IA s’arrête : la dépendance qu’on ne sentait plus” https://loud-technology.com/blog/quand-lia-sarrete-dependance-resilience/ - Si vous ne savez plus faire sans l’IA ce que vous lui déléguez, vous n’avez pas gagné un outil, vous avez perdu une capacité.

Biais de confirmation automatisé

Lorsque nous lui posons une question, la réponse d’une IA va plus que probablement “aller dans le même sens” que ce que nous lui demandons : c’est quelque chose que l’on constate lorsque l’on pose une question qui est déjà orientée - et que l’IA va aider à “ruminer”, sans jamais réellement en sortir - contrairement à un recuit simulé.

En cas de blocage, un ami ou un psy va poser un cadre, proposer de penser à autre chose, de passer à un activité différente pour trouver une solution “de derrière les fagots” ;une IA risque de continuer à creuser et à relancer la discussion dans la même branche.

Elle peut aider à structurer la pensée, mais il est essentiel d’apprendre à recouper les informations, à demander des sources et à confronter les réponses avec d’autres points de vue. Il est intéressant de prendre une IA pour soutenir, enrichir ou provoquer la pensée humaine, en gardant à l’esprit qu’elle peut inventer des sources ou fréquemment se contredire entre deux réponses séquentielles.

En pratique

On a parlé de prompt engineering, mais la manière dont la question est posée est réellement importante : une IA ne verra pas les trémollos ou le non-verbal d’une question (qui composent respectivement 57% et 38% d’un dialogue). Posez lui une question vague et floue, et la réponse le sera tout autant - ce qui accentuera les inégalités sociales : au plus la question est structurée, au plus la réponse le sera. Sauf que les utilisateurs qui seront capables de structurer correctement une question, sont également ceux qui en ont le moins besoin - ou qui sont les plus à mêmes d’utiliser correctement cette technologie.

Il est possible de personnaliser une IA - par exemple en utilisant Rodin, l’interlocuteur intellectuel et exigeant. Mais avant de démarrer, il est important de définir quoi et pourquoi ; en gros, de réfléchir à son propre besoin et à ce que l’on cherche à obtenir. On peut par exemple se baser sur la méthode QQOQCCP - ou en anglais, les Five W’s.

• La première étape concerne donc le pourquoi ; clarifier l’intention, c’est reprendre la main sur l’échange (page 188).
• La deuxième étape consiste à définir le besoin : besoin d’expression, de compréhension, de conseils, … “aide moi à comprendre ce qu’il s’est passé lors de telle situation, “J’ai besoin d’être écouté avant d’agir”, …

Principes de prompt engineering à respecter pour obtenir de “bons” résultats (dépendant du type de questions):

1. Être précis : la réponse dépend de la question,
2. Donner du contexte : l’IA n’a pas accès à votre vie,
3. Formuler une demande claire : écoute, analyse ou action ?
4. Rester factuel : éviter le flou émotionnel,
5. Relire et corriger : le gestion qui change tout - le tri intérieur est déjà une compétence en soi.

Avant tout cela, il convient de ne jamais commencer par l’IA : avant d’ouvrir un chatbot, prenez le temps - même court - pour réfléchir seul, écrire quelques mots sur papier ou échanger avec une autre personne.

Plusieurs outils existent, basés sur des datasets cliniques - sans pour autant être considérés comme des dispositifs médicaux - avec un background mature, fiable et utilisé : Woebot (Standford), Wysa (Inde / UK), Koa Health (Boston) ou Owlie (France) :

En pratique ++, trois pilliers permettent de résister au tout-numérique :

• La relation, qui nous confronte à l’autre et nous construit,
• La créativité, parce qu’elle nous relie à notre capacité d’invention et de sens,
• Le mouvement, parce que l’anxiété et l’addiction se combattent mieux dehors qu’assis devant un écran.

Ressources

• Voir le “guide de l’implémentation de l’éthique dans les systèmes d’ia en santé” du ministère du travail et de la santé, de juillet 2025.
• Loi sur l’intelligence artificielle de l’UE - https://artificialintelligenceact.eu/fr
• Quand “santé mentale” fait partie des mots bannis par l’administration Trump - https://pen.org/banned-words-list/