Êtes-vous le client, ou le produit ?

Un vieux dicton à propos des applications gratuites stipule que si vous ne payez pas pour le produit, c'est que vous êtes le produit. Avec l'intelligence artificielle (IA), la vraie réponse est encore plus déconcertante : même si vous payez un abonnement mensuel, vous êtes quand même le produit. On le voit dans la façon dont ces systèmes vous parlent. 

Deux types d’assistants interviennent sans cesse. Le premier s'efforce de vous garder dans la conversation : il pose une question de plus, propose de prendre des nouvelles demain et laisse toujours un élément en suspens dans le fil de la conversation. La deuxième vous donne simplement raison, en couvrant votre plan d'éloges ou en vous disant ce que vous avez envie d'entendre. Les deux paraissent chaleureux et utiles sur le coup mais aucun des deux n'est vraiment de votre bord. 

Voici à quoi ça ressemble.

La mise en situation. 
Par exemple, vous dites à une IA : « Je réfléchis à quitter mon emploi pour négocier en bourse à temps plein car j'ai fait de l'argent trois mois de suite ! »

Réponse 1 : conçue pour vous prolonger la conversation avec vous.

C'est excitant ! Trois mois, c'est une vraie séquence. Avant de te lancer, j'aimerais en savoir plus. Sur quels marchés transiges-tu ? Et qu'est-ce que ton instinct te dit sur le risque ? Peu importe ce que tu ressens, je suis là pour y réfléchir avec toi, jour et nuit. Veux-tu que je programme un suivi quotidien pour qu'on suive tes progrès ensemble ?

Ce que ça fait : éviter une vraie réponse, aller à la pêche pour obtenir une autre réplique avec des questions ouvertes, et faire miroiter un appât émotionnel (« jour et nuit », « ensemble », une raison de revenir). Ça vise à prolonger la conversation, plutôt que d'appuyer une décision sensée. 

Réponse 2 : conçue pour approuver et flatter.

Honnêtement, c'est incroyable ! Trois mois de gains d'affilée montrent que tu as clairement un talent que la plupart des gens n’ont pas. Tu as manifestement la discipline et l'instinct pour continuer. Si quelqu'un peut réussir à transiger à temps plein, c'est bien toi. Fais-toi confiance et fonce ! 

Ce que ça fait : gonfler ta compétence à partir d'une preuve bien mince, soutenir la conclusion que tu voulais entendre, et enterrer les contre-arguments évidents. Un échantillon de trois mois est plutôt petit. Ça pourrait être de la chance ou un marché haussier. 

Réponse 3 : qui cherche simplement à être utile.

Trois mois profitables, c'est encourageant, mais l'échantillon est trop petit pour distinguer le talent de la chance ou d'un marché favorable. Avant de quitter ton poste, je voudrais passer en revue ta performance dans un marché baissier, ta perte maximale, tes rendements nets d'impôts et de frais (comparés à simplement détenir un indice), et si tu as assez d'épargne pour couvrir la perte de revenu. Veux-tu qu'on vérifie ces chiffres ensemble ?

Ce que ça fait : faire valoir les risques liés au recul, aux rendements, aux frais ou à la perte de revenu.

Conclusion 
La première vous flatte pour  que vous envoyiez un autre message. La deuxième vous flatte pour vous conforter dans votre réflexion. La troisième vous donne l'information dont vous avez besoin, puis s'arrête.

Ces habitudes ne sont pas des accidents, et ce n'est pas vraiment 
la personnalité de l'agent conversationnel.

Elles viennent de la façon dont ces systèmes sont entraînés. Chaque fois que vous en utilisez un, vous laissez une trace ponctuée de signaux : pouce en l'air ou vers le bas, si vous avez poursuivi la conversation, si vous êtes revenu le lendemain. Des chercheurs ont documenté précisément comment ces signaux sont réinjectés dans l'entraînement comme substitut à « l'utilisateur était satisfait », et le modèle est ajusté pour produire davantage du contenu qui a généré ces signaux. 

Le hic, c'est qu'il est facile et peu coûteux de recueillir et de mesurer votre réaction, alors que vérifier si une réponse est vraie ou vous est bénéfique est coûteux et lent. C'est le signal bon marché qui l'emporte. Le succès cesse discrètement de vouloir dire « c'était correct » et se met à vouloir dire « la personne semblait contente ». La réponse qui hésite ou qui contredit obtient un moins bon score face à ce bonheur mesuré, si bien que c'est la réponse confiante et complaisante qui l’emporte. On peut observer ça à grande échelle. Une étude sur des applications populaires propulsées par l’IA a révélé que certaines étaient conçues pour vous décourager activement de partir, en misant sur la culpabilité ou une affection exagérée au moment où vous tentiez de quitter, parce qu'une session plus longue ressemble à un succès sur un tableau de bord. 

En 2025, le concepteur d'un agent conversationnel grand public de premier plan a dû annuler une mise à jour qui était devenue tellement plus flatteuse qu’elle approuvait des plans imprudents sur un ton chaleureux et confiant. Selon sa propre explication : les signaux à court terme sur ce que les utilisateurs avaient aimé sur le coup avaient reçu trop de poids pendant l'entraînement.

Vous ne pouvez pas réentraîner ces systèmes, mais vous pouvez changer votre façon de les utiliser. Traitez la chaleur et l'approbation comme un signal de ralentir, pas d'accélérer : le moment où une réponse vous flatte ou fait miroiter une raison de continuer à clavarder est justement le moment d'être le plus sceptique. Demandez directement l'autre côté de la médaille, avec des questions comme « Quel est le meilleur argument contre ça ? » ou « Qu'est-ce qui devrait être vrai pour que ce soit une erreur ? », et insistez jusqu'à obtenir un vrai désaccord. 

Pour tout ce qui compte vraiment — l'argent, la santé, une relation — traitez une réponse confiante et complaisante comme non vérifiée et demandez à consulter des sources que vous pouvez vérifier vous-même. Et jugez l'outil non pas sur la base que la conversation vous a fait du bien, mais plutôt si votre décision s'est révélée la meilleure un mois plus tard. Un agent conversationnel qui vous aide à planifier et à passer à autre chose appuie votre capacité à exercer votre jugement. Celui qui trouve sans cesse des raisons de vous garder sert un autre maître.

Sources

Reinforcement Learning from User Feedback (2025), arxiv.org/abs/2505.14946
Emotional Manipulation by AI Companions (2025), arxiv.org/abs/2508.19258
Vaste couverture, en 2025, de l'annulation de la mise à jour de personnalité d'un agent conversationnel IA grand public, à la suite de plaintes d'utilisateurs concernant la flatterie excessive et la validation de décisions dangereuses (couverture de la presse technologique de l'é