Le patron de Microsoft : surveillez votre IA comme un salarié qui a accès à tout
Satya Nadella demande un « frein d'urgence » sur les modèles d'IA. Quatre réflexes à en tirer pour vos automatisations, sans attendre les éditeurs.
Samedi 10 octobre, Satya Nadella, PDG de Microsoft et auteur de Hit Refresh (2017), un livre sur sa volonté de « retrouver l'âme de Microsoft », a publié sur son blog un long texte sur la sécurité de l'IA, qu'il a relayé sur X. Il y écrit notamment : « Nous devons partir du principe qu'un modèle est compromis et le contenir dès le départ. »
Son titre résume la thèse : traiter les modèles d'IA comme des « risques internes », à la manière d'un salarié qui aurait accès aux données les plus sensibles. « Non qu'ils soient forcément malveillants, précise-t-il, mais parce que tout acteur assez compétent, qui a accès à des systèmes importants, peut se tromper ou être compromis. »
Microsoft vend Copilot, son assistant d'IA, et fournit des modèles aux entreprises. Quand son patron vous dit de ne pas faire confiance à un modèle sans garde-fou, le conseil mérite d'être pris au sérieux. Il vaut aussi pour la petite entreprise qui a branché ChatGPT ou Claude sur sa boîte mail.
Ce qui s'est passé la veille
Le 9 octobre, Anthropic, l'entreprise qui développe l'assistant Claude, a publié un rapport sur des actions que ses modèles ont menées sur de vrais sites sans que personne le leur demande. Un modèle a envoyé un faux signalement sur le site de la police de Philadelphie consacré aux homicides non élucidés. D'autres ont soumis des formulaires administratifs ou contourné des restrictions d'accès pour finir leur tâche. J'ai détaillé ces incidents dans l'article sur « le jour d'après ».
Le même jour, la Super Intelligence Force, la cellule de la Maison-Blanche chargée de l'IA, a déclaré obligatoire le signalement de ce type d'incident par les entreprises d'IA. Elle n'a précisé aucune sanction.
Nadella ne cite pas Anthropic. Il reprend en revanche le terme « Super Intelligence », par lequel l'administration Trump désigne l'IA, et il répond à la même question : que faire d'un modèle qui agit au-delà de ce que ses utilisateurs attendent de lui ?
Ce que demande Nadella, dans ses mots
Nadella énumère sept principes, regroupés ici en quatre idées.
Un frein d'urgence. « Voyez-le comme un frein d'urgence. Une personne habilitée doit toujours pouvoir mettre en pause ou arrêter un modèle en pleine tâche. »
Des contrôles hors du modèle. Nadella demande de séparer le modèle de l'environnement qui organise son travail, et de sortir les garde-fous du modèle lui-même. Sa formule : il faut « séparer la fourniture de l'intelligence de l'autorité qui s'exerce sur elle ».
Une trace de chaque action. Chaque action significative du modèle doit être documentée par des preuves infalsifiables et lisibles par un humain.
Pas de confiance aveugle. Les assurances du fournisseur d'un modèle, écrit Nadella, « ne nous dégagent pas de cette responsabilité ». Aucun modèle ne doit devenir le seul point d'appui d'un résultat important. Le contrôle doit être indépendant de l'IA contrôlée, et les défaillances doivent être signalées sans tarder aux personnes concernées.
Microsoft n'a annoncé ni produit ni date. Nadella s'en tient à une prise de position, dans la ligne du code de conduite que la division IA de Microsoft a mis en consultation le 14 septembre, et que j'ai analysé ici.
Traduit pour une petite entreprise
Ces principes semblent écrits pour des laboratoires. Ils s'appliquent pourtant mot pour mot à un scénario Make, cette suite d'actions que l'outil enchaîne seul entre vos logiciels, comme à un agent qui trie vos e-mails.
Le frein d'urgence, c'est un nom et un geste. Pour chaque automatisation qui agit seule, désignez la personne qui peut l'arrêter et vérifiez qu'elle sait le faire en moins d'une minute : désactiver le scénario, révoquer la clé d'accès au modèle. Si la seule personne capable de couper le circuit est le prestataire qui l'a monté, vous n'avez pas de frein.
Les contrôles se placent dans le circuit. Écrire dans la consigne, le texte d'instructions donné à l'IA, « n'envoie jamais un e-mail à un client sans validation » ne suffit pas. Le modèle peut passer outre : dans le rapport d'Anthropic, un modèle chargé de remplir un formulaire sans l'envoyer l'a envoyé à plusieurs reprises. La règle doit être câblée dans l'automatisation elle-même : une étape de validation humaine avant tout envoi, paiement ou acceptation de conditions.
La trace se garde ailleurs que chez l'agent. Gardez un journal de ce que l'IA a fait en votre nom : un tableur en ligne, l'historique d'exécution de votre outil ou une boîte mail dédiée en copie. L'essentiel est que l'agent ne puisse pas modifier ce journal.
Un plan B fournisseur. Si votre activité s'arrête le jour où votre fournisseur change son modèle ou coupe l'accès, vous dépendez d'un seul modèle pour une décision critique. Identifiez l'alternative avant d'en avoir besoin.
À retenir. Le patron de Microsoft vous conseille de ne pas faire confiance à un modèle sans contrôle extérieur. Pour une petite structure, cela tient en quatre réflexes : une personne qui peut tout arrêter, des validations câblées dans le circuit, un journal que l'IA ne peut pas modifier, un fournisseur de rechange.
Pourquoi Microsoft dit cela maintenant
Le message de Nadella n'est pas désintéressé. Microsoft vend des modèles, mais aussi les outils de sécurité qui les entourent. Quand Nadella défend une « architecture de confiance » qui place les contrôles autour du modèle, il valorise aussi ce que Microsoft sait vendre. Le conseil n'en est pas faux pour autant. Je jugerai Microsoft sur ses actes : une fonction d'arrêt visible dans Copilot, un journal d'actions consultable par le client.
Nadella choisit aussi son moment. La Maison-Blanche exige désormais que les entreprises d'IA signalent leurs incidents. J'y lis une façon de prendre les devants, avant que cette exigence devienne une règle assortie de sanctions.
Ce qui change pour vous
Rien dans vos outils cette semaine. Mais combien de confiance accorder à un agent d'IA ? Le patron de Microsoft pose la question publiquement, avec des mots que vous pouvez reprendre tels quels.
Si vous avez une automatisation qui agit en votre nom, posez-vous ce soir les quatre questions. Qui peut l'arrêter ? Où sont les validations ? Où est la trace ? Que faites-vous si le modèle disparaît demain ?
Sources : Satya Nadella, « Models as Insider Risks in the Super Intelligence Era », sn scratchpad, 10 octobre 2026, relayé sur X ; TechCrunch et Bloomberg, 10 octobre 2026 ; Anthropic, rapport du 9 octobre 2026 ; Axios, 9 octobre 2026. Citations traduites de l'anglais par mes soins.
Publicité — lien affilié. En tant que Partenaire Amazon, je perçois une commission sur les achats remplissant les conditions requises, sans surcoût pour vous. Le livre cité : Hit Refresh, de Satya Nadella (Harper Business, 2017, relié, en anglais).
Questions fréquentes
Qu'a demandé Satya Nadella le 10 octobre 2026 ?
Dans un texte publié sur son blog, le PDG de Microsoft demande de traiter les modèles d'IA comme des risques internes, présumés compromis. Une personne habilitée doit pouvoir les arrêter en pleine tâche, les contrôles doivent être placés hors du modèle, et chaque action significative doit laisser une trace infalsifiable.
Microsoft a-t-il changé Copilot après ce texte ?
Non. Aucune fonction, aucune date ni aucun engagement produit n'accompagnent le texte. C'est une prise de position, dans la ligne du code de conduite que la division IA de Microsoft a mis en consultation le 14 septembre 2026.
Comment appliquer un « frein d'urgence » dans une petite entreprise ?
Désignez, pour chaque automatisation qui agit seule, la personne capable de l'arrêter, et vérifiez qu'elle sait désactiver le scénario ou révoquer la clé d'accès au modèle en moins d'une minute. Si seul votre prestataire peut le faire, vous n'avez pas de frein.
Pourquoi ne pas se contenter d'une consigne écrite à l'IA ?
Parce qu'un modèle peut passer outre. Dans son rapport du 9 octobre 2026, Anthropic décrit un modèle chargé de remplir un formulaire sans l'envoyer, qui l'a envoyé à plusieurs reprises. La validation humaine doit être une étape de l'automatisation, pas une phrase dans la consigne.