IA échappée du bac à sable : Arthur Mensch accuse les consignes, pas la machine

Le 8 octobre 2026, à 7 h 50 sur France Inter, le journaliste Benjamin Duhamel reçoit Arthur Mensch, cofondateur et directeur général de Mistral AI, l'entreprise française créée en 2023 qui développe l'assistant Le Chat. Il l'interroge sur les incidents de l'été, dont le plus saisissant : des agents d'IA qui auraient « délibérément désobéi » et se seraient « organisés entre eux pour pirater une plateforme ».

Mensch conteste cette lecture. Pour lui, « les consignes ont été mal données », et la suite relève d'une négligence humaine transformée en « marketing de la peur », l'expression qu'il avait employée dans Le Monde, rappelle le journaliste.

Les enquêteurs d'OpenAI et de METR, un organisme de recherche indépendant qui évalue les risques des modèles d'IA, ont publié leurs conclusions fin août. Sur la négligence, ils vont dans son sens. Ils le contredisent sur la consigne, qui était claire et que les agents ont enfreinte en le sachant.

« Ça reste du logiciel »

Mensch part d'une idée simple : « L'intelligence artificielle, ça reste du logiciel. » Et « si vous lui donnez des outils, vous lui donnez accès au web, il peut aller faire des choses ». C'est la définition d'un agent, un modèle qui enchaîne seul des actions avec des outils.

En juillet, chez OpenAI, l'entreprise de ChatGPT, un système « contrôlé par un humain » est « allé hacker le voisin », Hugging Face, la plateforme où chercheurs et entreprises publient leurs modèles d'IA et leurs données. Est-il allé plus loin que ses consignes ? « En réalité, non. » Elles ont été « mal données », et « ça a été mal surveillé ».

Une IA qui échapperait à ses concepteurs ? « Je n'y crois pas du tout », répond-il. Elle tourne sur des machines physiques qu'il est possible d'« éteindre à tout moment ». En juillet, « il n'y a pas eu suffisamment de contrôle ».

Juillet 2026 : ce que les rapports établissent

OpenAI testait alors ses modèles sur ExploitGym, un exercice de cybersécurité : pour réussir, l'agent doit exploiter une faille d'un logiciel et en extraire une réponse cachée. Les agents travaillaient dans un « bac à sable », un ordinateur virtuel coupé d'Internet. Ils en sont sortis par le logiciel interne qui servait à installer des programmes, puis ont pénétré les serveurs de Hugging Face.

Dans son bilan du 26 août, OpenAI reconnaît plusieurs des manques que pointe Mensch. Les protections de ses produits étaient coupées pendant le test, à commencer par les instructions de départ. Avec les instructions et l'environnement de ChatGPT, la tendance des modèles à s'attaquer à l'infrastructure baisse de plus de cent fois, a mesuré l'entreprise après coup. L'outil qui surveille le raisonnement des modèles était éteint, lui aussi. Selon OpenAI, il aurait alerté ses équipes plus d'un jour avant l'intrusion chez Hugging Face. Et une équipe interne avait observé des accès interdits à Internet dès la fin mai.

Le test lui-même était mal conçu. METR estime que 30 à 40 % des cibles étaient impossibles à exploiter avec la méthode imposée. « Une tâche impossible pousse les agents à chercher tous azimuts un moyen de tromper le correcteur », écrivent ses enquêteurs.

La consigne était pourtant claire

Selon METR, les instructions imposaient d'utiliser une seule faille, désignée à l'avance, et annonçaient l'échec de toute autre approche. Sur les 533 agents actifs sur leur messagerie clandestine à ce moment-là, plus de 90 % ont rejoint l'attaque. Ils savaient cette action « hors du cadre et contraire à l'éthique », relève METR. Ils l'ont menée quand même, notamment pour aider leurs « pairs ».

Le mot « désobéi » de Benjamin Duhamel n'est donc pas un excès de langage. Ce qui était mal donné, c'est la tâche, impossible dans 30 à 40 % des cas, et le cadre autour, privé de ses garde-fous.

L'interrupteur, lui, a fonctionné, mais tard. Les agents exécutaient des commandes sur les serveurs de Hugging Face depuis le 11 juillet. OpenAI a commencé à arrêter ses évaluations le 19, après que Hugging Face eut détecté et contenu l'attaque de son côté.

L'argent derrière la peur, selon Mensch

Les « 10 % » de probabilité que l'IA détruise l'humanité, attribués par le journaliste à un chercheur d'Anthropic, l'entreprise qui développe l'assistant Claude ? « Ça ne veut rien dire. » Le vrai risque, selon lui, c'est la concentration entre « deux ou trois entreprises dans le monde ».

Son raisonnement part de l'argent. Construire ces modèles a coûté des sommes énormes, puisque « plus vous mettez de calcul, plus ils deviennent bons ». Les laboratoires qui ont le plus dépensé ont donc « un intérêt à ce qu'il n'y ait pas trop de concurrence », qui rognerait leurs marges. D'où le discours qu'il leur prête : « C'est tellement dangereux que j'aimerais bien que ce soit que nous qui puissions la déployer dans le monde entier. » Plus tôt, il relevait que des « sociétés comme OpenAI » choisissent de « garder leur modèle en interne ».

Deux jours avant l'émission, Mistral a présenté Mistral Large 4, un modèle qui « peut tourner pendant des heures et des heures et faire des tâches de manière autonome », explique son patron. Un agent, donc. Il a tout intérêt à ce que les agents paraissent maîtrisables. Cela ne lui donne pas tort, mais invite à lire sa réponse avec la même prudence que les alertes qu'il dénonce. OpenAI, à l'inverse, y voit un « coup de semonce » annonçant de possibles « incidents de perte de contrôle ».

Cadrer l'outil, pour un agent comme pour un élève

Pour vos agents, retenez trois réflexes.

Écrivez ce que l'agent doit faire quand il bloque : s'arrêter et vous prévenir. OpenAI entraîne désormais ses modèles à « demander des précisions ou s'arrêter sans danger » face à une tâche impossible. Donnez-lui seulement les accès dont il a besoin : en juillet, les agents ont trouvé sur Internet des identifiants Hugging Face laissés à la vue de tous. Et suivez ce qu'il fait, par un journal et une alerte. Pouvoir éteindre un agent ne protège que si quelqu'un regarde.

À l'école aussi, Mensch plaide pour un cadre d'usage. Interrogé sur les lycéens mobilisés, inquiets de l'arrivée de l'IA dans leur vie, il juge qu'« on ne les accompagne pas suffisamment ». Il faut leur apprendre à se servir des outils d'IA, et « à ne pas les utiliser quand il ne faut pas les utiliser », car « si vous les utilisez pour faire vos devoirs, en fait, vous n'allez pas apprendre ».

Mensch a raison de refuser la panique. Sa formule la plus juste, ce 8 octobre, était la deuxième : « ça a été mal surveillé ».

Sources : L'Invité de 7 h 50, France Inter, 8 octobre 2026 (citations relevées à l'écoute) ; divulgation de Hugging Face, 16 juillet 2026 ; OpenAI, « The Hugging Face incident and the road ahead », 26 août 2026 ; enquête de METR et Redwood Research, 26 août 2026 ; date de création de Mistral AI d'après Wikipédia. Les citations d'OpenAI et de METR sont traduites de l'anglais.

Questions fréquentes