Plus l'IA s'améliore, plus vous devez la challenger
À Drachten, retirer les panneaux de signalisation a rendu la route plus sûre. Nassim Taleb en tire une loi de l'attention — et elle s'applique, mot pour mot, à notre façon de déléguer à l'intelligence artificielle.
Aux Pays-Bas, la petite ville de Drachten a mené une expérience contre-intuitive : elle a retiré la quasi-totalité de ses panneaux de signalisation, feux et marquages au sol. Le résultat n'a pas été le chaos annoncé, mais une baisse des accidents.
Nassim Nicholas Taleb raconte cette histoire dans Antifragile, au chapitre sur l'« interventionnisme naïf ». Sa lecture est limpide : privés de garde-fous, les conducteurs cessent de se reposer sur le système et redeviennent attentifs. Ils se sentent responsables, donc ils regardent la route. À l'inverse, plus on délègue le contrôle à un dispositif extérieur, plus la vigilance s'endort. Taleb parle d'un « manque de surcompensation » : l'attention est antifragile, elle se nourrit du sentiment du danger.
Quand la machine conduit, le pilote décroche
Le même livre cite un autre exemple, plus troublant : les pilotes automatiques d'avion. On les imagine comme un pur gain de sécurité. Or les études montrent qu'ils produisent parfois l'effet inverse : à force de surveiller un système qui fait tout à leur place, les pilotes perdent en vigilance — et, à long terme, en compétence de pilotage manuel. Le garde-fou censé nous protéger finit par éroder la capacité même qu'il était censé soutenir.
Retenez ce mécanisme, parce qu'il est en train de se rejouer, à grande échelle, avec l'intelligence artificielle.
Le même piège se referme avec l'IA
Plus l'IA s'améliore, moins nous avons tendance à contrôler ce qu'elle dit et fait pour nous. Non par malveillance, mais par facilité — cette petite paresse bien humaine qui consiste à accepter la réponse plutôt qu'à la vérifier. Les premières fois, on relit tout : le mail rédigé, le résumé, le bout de code, la réponse au client. Puis l'outil se montre fiable, une fois, dix fois, cent fois. La confiance s'installe. Et sans même le décider, on passe en pilote automatique : on valide sans lire.
Chaque bonne réponse renforce ce réflexe. C'est exactement l'effet Drachten inversé : le système est si rassurant qu'il désactive notre vigilance. Sauf qu'ici, le « conducteur » ne se contente pas de moins regarder la route — il désapprend peu à peu à conduire.
La fiabilité d'un outil ne devrait jamais devenir un permis de débrancher son cerveau. Plus l'IA est performante, plus la tentation de lui abandonner le jugement est forte — et plus il faut y résister.
Pourquoi ce biais est dangereux
Le coût est double. D'abord l'erreur qui passe : une IA se trompe, invente une source, adopte le mauvais ton avec un client, glisse une donnée fausse dans un tableau. Ces erreurs surviennent précisément au moment où nous avons cessé de vérifier — parce que « d'habitude, c'est bon ». Plus l'outil est performant, plus les rares erreurs deviennent invisibles, noyées dans un océan de réponses correctes.
Ensuite, un coût plus insidieux : notre propre compétence s'atrophie. À déléguer non seulement l'exécution mais aussi la réflexion, on perd la capacité de juger si la réponse est bonne. On ne sait plus repérer ce qui cloche, parce qu'on ne fait plus l'effort. C'est le cerveau qui se ramollit, comme le pilote qui ne sait plus atterrir sans assistance. Et le jour où il faut trancher soi-même, on découvre qu'on a désappris.
Garder un humain dans la boucle
La parade n'est pas de fuir l'IA — je construis des automatisations et des agents IA pour gagner ma vie, j'y crois profondément. La parade, c'est de rester le nœud critique du système. Garder un humain dans la boucle, ce n'est pas un frein : c'est une discipline. Cela veut dire relire ce que l'IA produit avant que ça parte, lui demander de justifier ses choix, la contredire quand une réponse sonne faux, la traiter comme un partenaire d'entraînement plutôt que comme un oracle.
Cette friction volontaire est précisément ce qui nous maintient affûtés. Challenger l'IA oblige à formuler ce qu'on attend, à repérer ses angles morts, parfois à apprendre de l'échange. Bien utilisée, elle ne remplace pas votre pensée : elle l'aiguise. Mal utilisée, elle l'endort.
Concrètement, pour une TPE ou un indépendant
Le principe se traduit simplement dans les processus. Automatisez massivement l'exécution — le tri, la rédaction de premiers jets, la synthèse, les relances — mais gardez un point de contrôle humain sur ce qui a des conséquences : un message important à un client, une décision, un chiffre qui engage. Concevez vos workflows pour que l'humain reste actif à l'endroit qui compte, pas comme un tampon qui valide les yeux fermés.
Autrement dit : déléguez l'exécution, jamais le jugement. C'est la version antifragile de l'IA — celle où l'outil vous rend plus fort au lieu de vous ramollir.
Reste la vraie question, celle que je me pose à chaque nouveau gain de puissance des modèles : où placez-vous, vous, la frontière entre la délégation qui vous libère et celle qui vous endort ?
Cette réflexion est née d'une page d'Antifragile de Nassim Nicholas Taleb, sur l'effet Drachten et l'« interventionnisme naïf ». Et vous, où tracez-vous la ligne entre déléguer et abdiquer ? Dites-le-moi sur LinkedIn.
Questions fréquentes
Qu'est-ce que l'effet Drachten ?
Drachten, une ville néerlandaise, a retiré ses panneaux de signalisation ; contre toute attente, la sécurité a augmenté. Nassim Taleb y voit une preuve de l'antifragilité de l'attention : privés de garde-fous, les conducteurs se sentent responsables et redoublent de vigilance. Déléguer le contrôle à un système, à l'inverse, endort cette vigilance.
En quoi l'IA reproduit-elle ce biais ?
Plus une IA devient fiable, plus nous lui faisons confiance — et moins nous relisons ce qu'elle produit, par facilité. Chaque bonne réponse renforce le pilote automatique. Le risque est double : des erreurs passent au moment précis où nous ne vérifions plus, et notre propre capacité de jugement s'atrophie faute d'exercice.
Que signifie « garder un humain dans la boucle » ?
C'est conserver, à un endroit clé du processus, une personne qui relit, critique et valide ce que l'IA propose avant que cela produise un effet. Non pour ralentir, mais pour rattraper les erreurs et rester compétent. L'humain challenge l'IA au lieu de la suivre aveuglément.
Faut-il pour autant se méfier de l'IA et l'utiliser moins ?
Non. L'enjeu n'est pas d'en faire moins, mais de rester le nœud critique du système. On peut automatiser énormément tout en gardant un point de contrôle humain sur les décisions et les messages sensibles. La bonne posture : déléguer l'exécution, jamais le jugement.