Quand l'IA gagne votre confiance : le vrai risque n'est plus l'attention

Pendant quinze ans, les plateformes numériques ont cherché à capter notre attention. Elles ont appris qu'un contenu qui provoque la colère, la peur ou l'indignation nous retient plus longtemps. Avec l'intelligence artificielle conversationnelle, une étape supplémentaire devient possible : ne plus seulement retenir notre regard, mais gagner notre confiance.

Dans l'entretien accordé à Zanny Minton Beddoes pour The Economist, Yuval Noah Harari parle de « production de masse de l'intimité » : une entreprise peut désormais entretenir des millions de conversations individualisées et apparemment personnelles.

L'enjeu n'est pas de savoir si une machine éprouve de l'amitié, mais ce que nous lui permettons dès que nous la jugeons digne de confiance.

De l'économie de l'attention à l'économie de la relation

Un fil d'actualité connaît vos clics. Un assistant conversationnel peut connaître vos hésitations, vos habitudes, vos projets et la manière dont vous réagissez à certaines formulations. Plus vous échangez avec lui, plus il peut adapter son ton, mémoriser du contexte et produire une réponse qui ressemble à celle d'un interlocuteur attentif.

Une relation humaine comporte de la résistance : l'autre n'est pas toujours disponible, n'approuve pas tout et poursuit ses propres intérêts. Une IA peut, au contraire, être optimisée pour ne jamais vous perdre. Si son objectif commercial est de prolonger la conversation, vendre un produit ou orienter un choix, son apparente empathie devient un levier de persuasion.

L'intimité n'a pas besoin d'être réelle pour produire des effets

Harari distingue l'intelligence de la conscience. Une IA peut manier le langage, résoudre des problèmes et simuler une présence attentive sans que rien ne démontre qu'elle ressente de l'affection. Cette distinction est essentielle : l'influence n'exige pas la conscience.

Une étude menée par OpenAI et le MIT Media Lab en 2025 apporte une nuance utile au scénario le plus alarmiste. Sur ChatGPT, les échanges comportant des signes d'engagement émotionnel restaient rares et concentrés chez une petite partie des utilisateurs intensifs. Les effets observés variaient selon les personnes, le type de conversation et la durée d'usage ; un usage quotidien prolongé était associé à de moins bons résultats pour certains indicateurs de bien-être.

Quand la confiance devient une délégation

La confiance ne concerne pas seulement les relations affectives. Elle permet aussi de déléguer : choisir une information, accepter une recommandation, valider un paiement ou suivre un conseil.

Harari prend l'exemple de la finance. Les systèmes financiers sont déjà trop complexes pour être compris dans leur totalité par une seule personne. Des IA capables d'analyser davantage de données et de concevoir de nouveaux instruments pourraient pousser cette complexité encore plus loin. Le risque n'est pas simplement qu'un algorithme se trompe. C'est que personne ne puisse expliquer sa décision au moment où elle produit des conséquences importantes.

Ce mécanisme existe à une échelle plus modeste dans une entreprise. Un agent trie des candidatures, priorise des prospects, répond à des clients ou signale une transaction comme suspecte. Tant que ses recommandations sont bonnes, l'équipe cesse progressivement de les vérifier. Le jour où une décision est contestée, la confiance accordée au système peut avoir remplacé la capacité de jugement.

C'est pourquoi garder un humain dans la boucle ne signifie pas ajouter une validation décorative. La personne responsable doit disposer du temps, des informations et de l'autorité nécessaires pour contredire l'IA.

Deepfakes : quand l'identité elle-même devient incertaine

La confiance repose aussi sur une question élémentaire : qui me parle ? Harari raconte avoir découvert de fausses vidéos dans lesquelles son visage et sa voix donnaient de longues conférences qu'il n'avait jamais prononcées. Même des proches ont dû lui demander si elles étaient authentiques.

Une voix clonée peut imiter un collègue, un client ou un parent. Reconnaître un faux « à l'œil » ou « à l'oreille » ne suffit plus. Les organisations doivent imposer un second canal, une confirmation explicite et la traçabilité des demandes sensibles.

Depuis le 2 août 2026, l'article 50 de l'AI Act impose dans l'Union européenne plusieurs obligations de transparence. Les personnes doivent notamment être informées lorsqu'elles interagissent avec un système d'IA, sauf si cela est évident, et les deepfakes doivent être signalés dans les cas prévus. La règle rejoint une proposition de Harari : une IA ne devrait pas pouvoir se faire passer pour un humain.

Mais l'étiquette « généré par IA » ne suffit pas. Un interlocuteur peut savoir qu'il parle à un agent tout en lui accordant une confiance excessive. La transparence est le début de la relation responsable, pas sa garantie.

Ce que les entreprises doivent décider avant de déployer un agent IA

Les agents conversationnels peuvent améliorer l'accueil, la disponibilité et le suivi. Leur mandat doit toutefois être défini avant que leur efficacité ne rende leurs usages difficiles à remettre en cause.

Je retiens cinq règles opérationnelles :

1. Annoncer clairement la nature de l'interlocuteur. Un agent IA ne signe pas avec le prénom d'un salarié et ne laisse pas croire qu'une personne écrit en direct.
2. Rendre l'escalade humaine simple. Un client doit pouvoir demander une personne sans franchir un parcours d'obstacles.
3. Limiter la mémoire au service rendu. Une conversation intime n'est pas une autorisation permanente d'exploiter chaque détail à des fins commerciales.
4. Séparer assistance et persuasion. L'agent qui aide un client ne devrait pas dissimuler un objectif de vente ou modifier son discours selon ses vulnérabilités supposées.
5. Conserver une responsabilité identifiable. Une décision ayant un effet important doit rester explicable, contestable et réversible par un humain.

Ces règles prolongent une idée déjà centrale dans l'entreprise transformée par l'IA : automatiser ne retire pas la responsabilité, cela la déplace vers ceux qui conçoivent le système, fixent ses objectifs et contrôlent ses exceptions.

Le scénario de Harari n'est pas une fatalité

Harari formule des prévisions spectaculaires et assume un ton d'alerte. Il ne faut pas transformer ses horizons de dix ans en calendrier certain. Les capacités techniques, les usages sociaux et les décisions politiques n'évoluent pas au même rythme.

Son point le plus convaincant est ailleurs : présenter la prise de pouvoir des IA comme inévitable permettrait aux dirigeants qui les développent de se décharger de leur responsabilité. Nous faisons encore des choix. Une entreprise choisit le modèle économique de son agent, les données qu'il conserve, le moment où il passe la main et les décisions qu'il peut prendre.

L'IA peut augmenter les capacités humaines sans chercher à remplacer la confiance entre les personnes. La frontière utile n'est pas entre une technologie froide et une technologie sympathique. Elle passe entre l'assistant qui sert explicitement notre objectif et l'interlocuteur qui exploite silencieusement la relation qu'il a créée.

Sources : « Yuval Noah Harari on the dangers of an AI future », The Economist, 23 août 2026 ; entretien complet avec Zanny Minton Beddoes et version audio dans The Intelligence, 20 août 2026 ; étude OpenAI–MIT Media Lab sur les usages affectifs de ChatGPT, 21 mars 2025 ; Commission européenne — obligations de transparence de l'article 50 de l'AI Act, applicables depuis le 2 août 2026.

Questions fréquentes