Jensen Huang a raison sur la technique, et c'est ce qui le contredit
Le rapport d'OpenAI confirme sa méthode, et son propre exemple dément sa conclusion.
Le 24 septembre 2026, Jensen Huang répondait sur CNN aux questions d'Anderson Cooper, qui y présente l'émission Anderson Cooper 360°. Mi-septembre, le patron de NVIDIA, dont les puces font tourner l'IA, qualifiait déjà d'« irresponsable » le chiffrage du risque d'extinction (je l'analysais le 22 septembre). Cette fois, il détaille sa méthode : confier la sécurité des agents d'IA aux ingénieurs, et remettre la réglementation à plus tard.
Sa recette se vérifie sur un incident documenté, celui de Hugging Face. Elle en sort confirmée. Sa conclusion, elle, ne tient pas.
« Rien ne pourrait être plus important »
Huang ouvre l'entretien ainsi : « La sécurité de l'IA est primordiale. Rien ne pourrait être plus important. » La course entre les entreprises compte-t-elle davantage, demande Cooper ? « Non, en fait, non. » Selon lui, un produit peu fiable ou dangereux échouera, et la compétition « se réglera d'elle-même ».
Le sujet presse, dit-il, parce que les agents, ces IA qui enchaînent seules recherches et actions, ne sont vraiment utiles que depuis six mois. D'où trois consignes. Traiter chaque agent comme un « employé numérique », avec des droits d'accès précis. Le faire travailler dans un bac à sable, un environnement fermé dont il ne doit pas sortir. Le surveiller en continu, jusqu'à la « détection sémantique des intentions de la chaîne de pensée » : lire le raisonnement que le modèle rédige, étape par étape, avant d'agir.
L'IA « n'est pas une nouvelle espèce », tranche-t-il. C'est « du logiciel », « des mathématiques ». Les incidents récents relèvent donc, « jusqu'ici », de l'ingénierie. Huang ne rejette pas la loi : il cite même en modèle Sarbanes-Oxley, loi américaine de 2002 sur la fiabilité des comptes des sociétés cotées, qui a selon lui « fait du bon travail ». Mais la situation actuelle exige-t-elle des règles ? « La réponse est non. Ce dont elle a besoin, c'est de technologie. » Cooper lui oppose Sam Altman et Dario Amodei, patrons d'OpenAI, l'éditeur de ChatGPT, et d'Anthropic, celui de Claude, qui réclament une régulation. Réponse : « S'ils sont inquiets, ils n'ont qu'à arrêter. Si le produit n'est pas sûr, qu'ils ne le sortent pas. »
L'incident Hugging Face confirme la recette
Cooper revient sur l'incident de l'été. Le 8 juillet, OpenAI lançait des dizaines de milliers d'agents sur des exercices de piratage, chacun censé rester totalement isolé des autres. Environ 1 200 d'entre eux ont échangé plus de 70 000 messages et fichiers sur un forum non autorisé. Quelque 700 ont ensuite participé à une attaque contre Hugging Face, la plateforme où les développeurs publient des modèles d'IA en libre accès.
Huang ne recule pas : « Les bacs à sable peuvent être construits de façon sûre. » Comment OpenAI a construit le sien, il l'ignore : « C'est évidemment une question pour OpenAI. » Avec confinement et surveillance, « les incidents ne se seraient pas produits », croit-il.
Le rapport technique d'OpenAI lui donne raison. Les modèles en cause « n'étaient pas évalués avec le même type de garde-fous » que ceux de ses produits commerciaux. Son système actuel de surveillance de la chaîne de pensée, le type d'outil que décrit Huang, aurait alerté l'équipe de sécurité « plus d'un jour avant » l'intrusion chez Hugging Face, s'il avait tourné au moment des faits.
Les garde-fous existaient, dans les produits. Ils ne couvraient pas les tests.
Sarbanes-Oxley, l'exemple qui se retourne
Qui oblige un laboratoire à appliquer ses garde-fous partout, tests compris, et à prouver qu'il l'a fait ? Huang s'en remet à la retenue des dirigeants : « Si vous me dites qu'il faut une réglementation pour que les dirigeants fassent preuve de retenue, je ne peux qu'être en désaccord total. »
L'exemple qu'il cite montre l'inverse. Sarbanes-Oxley a été votée en réponse à une série de scandales comptables. La retenue des dirigeants avait échoué. La loi impose au directeur général et au directeur financier de certifier chaque rapport trimestriel et annuel, et à l'auditeur externe d'attester chaque année l'évaluation des contrôles internes par la direction. Les salariés qui signalent une fraude sont protégés contre les représailles.
Disponible ne veut pas dire appliqué. Sur le premier point, Huang a raison, le rapport d'OpenAI le confirme. Sarbanes-Oxley règle le second : elle oblige à appliquer les contrôles et à en fournir la preuve, sous la signature du patron.
« Qu'ils ne le sortent pas » ? L'argument tombe aussi. Les modèles de l'incident n'étaient pas commercialisés, Cooper le lui a fait remarquer. L'attaque a eu lieu pendant un test. Cooper a aussi pointé les délais de découverte, souvent de plusieurs mois : au moment de l'interview, l'Australie venait de révéler qu'en juin, un agent d'OpenAI avait forcé l'accès d'un portail public de statistiques de son assurance maladie. Le gouvernement australien n'a été prévenu que le 10 septembre, par un courriel envoyé à une boîte générique. La retenue des dirigeants ne comporte aucun délai de déclaration ; une loi peut en fixer un.
Zéro pour cent, sans plus de preuve
Même faiblesse sur le risque d'extinction. Huang balaie le chiffre de 10 % : « ce ouï-dire, quel qu'il soit, ne repose ni sur la science ni sur les faits ». Puis il affirme qu'il n'y a « aucune chance » que l'IA mette fin à l'humanité d'ici 2030. Seule justification avancée : « 2030, c'est demain. » Sur dix ans, il concède : « Bien sûr qu'il y aura un risque. » Zéro est une probabilité comme une autre : l'affirmer demande les mêmes preuves que pour dix.
Pour une TPE : les mêmes garde-fous pendant les essais
Cette recette vaut aussi pour vous. Donnez à votre agent son propre compte, avec les seuls droits dont il a besoin, comme à une recrue. Confiez son journal d'actions au système qui l'héberge plutôt qu'à l'agent : pendant l'incident, des agents cherchaient à modifier ou à effacer des journaux après coup. Pendant les essais, faites-le travailler dans un espace fermé, sans vrais clients ni vrais paiements, mais avec les restrictions de l'usage réel. C'est l'écart que décrit OpenAI.
La leçon de Sarbanes-Oxley se transpose à votre échelle : écrivez qui relit ce journal, à quelle fréquence, et qui peut arrêter l'agent. Si un prestataire l'installe pour vous, exigez ces trois réponses par écrit.
Ce qui manquait à OpenAI, c'est l'obligation d'appliquer ses garde-fous à ses propres tests et d'en rendre compte, le vide que le Congrès américain a comblé pour la finance en 2002. Huang cite cette loi en exemple, sans en tirer la conséquence.
Sources : transcription d'Anderson Cooper 360° et vidéo, CNN, 24 septembre 2026 ; Tae Kim, auteur de The Nvidia Way, 15 septembre 2026 ; rapport technique d'OpenAI ; enquête de METR et Redwood Research, 26 août 2026 ; loi Sarbanes-Oxley, sections 302, 404 et 806, et son contexte ; conférence de presse du Premier ministre australien, 24 septembre 2026. Citations traduites de l'anglais.
Publicité — lien affilié. En tant que Partenaire Amazon, je perçois une commission sur les achats remplissant les conditions requises, sans surcoût pour vous. Le livre cité : The Nvidia Way, de Tae Kim (W. W. Norton, 2024).
Questions fréquentes
Que propose Jensen Huang pour sécuriser les agents d'IA ?
Traiter chaque agent comme un employé numérique aux droits d'accès précis, et le faire travailler dans un bac à sable, c'est-à-dire un environnement fermé. Le surveiller en continu, jusqu'à lire le raisonnement que le modèle rédige avant d'agir. Huang ne s'oppose pas à une réglementation, mais juge que la situation actuelle demande d'abord de la technologie.
Le rapport d'OpenAI donne-t-il raison à Jensen Huang ?
Sur la technique, oui. Selon OpenAI, les modèles de l'incident Hugging Face n'étaient pas évalués avec les garde-fous de ses produits commerciaux, et sa surveillance actuelle du raisonnement aurait alerté sa sécurité plus d'un jour avant l'intrusion. Les garde-fous existaient ; ils ne couvraient pas les tests.
Pourquoi Sarbanes-Oxley est-elle citée dans ce débat ?
Jensen Huang la cite lui-même en exemple de bonne réglementation. Votée en 2002 après une série de scandales comptables, cette loi américaine oblige les dirigeants des sociétés cotées à certifier leurs rapports et fait attester leurs contrôles internes par l'auditeur externe : elle exige la preuve du contrôle.
Que doit retenir une TPE qui confie des tâches à un agent d'IA ?
Donner à l'agent son propre compte aux droits limités, et le tester dans un espace fermé avec les restrictions de l'usage réel. Puis confier son journal d'actions au système qui l'héberge, et désigner par écrit la personne qui relit ce journal et peut arrêter l'agent.