Course à la superintelligence : le paradoxe de ceux qui réclament d'être régulés
Un chercheur quitte Anthropic en alertant sur la course à l'IA. Le plus troublant n'est pas l'alerte : c'est que les laboratoires réclament eux-mêmes d'être freinés.
Le 9 septembre 2026, un chercheur de 27 ans a démissionné d'Anthropic sans avoir touché une seule de ses actions. Il y travaillait depuis quatre mois, la période d'acquisition en demandait six, et l'entreprise prépare une introduction en bourse annoncée comme l'une des plus importantes jamais réalisées. Jacob Coxon est parti avant, volontairement, et a expliqué pourquoi dans un fil sur X qui a dépassé les cent millions de vues en un jour.
Le contenu de l'alerte est connu : l'IA pourrait nous échapper. Ce qui mérite l'attention est ailleurs. Coxon ne décrit pas des dirigeants inconscients ou cyniques. Il décrit des gens lucides, qui mesurent le risque, qui réclament publiquement d'être encadrés — et qui accélèrent quand même. C'est cette contradiction qui vaut le détour, parce qu'elle ne se règle pas par de la bonne volonté.
Une démission qui coûte cher, et c'est le message
Diplômé de mathématiques, Coxon a fait partie de l'équipe technique d'OpenAI de 2023 à 2026, où il a contribué à GPT-4o, avant de rejoindre Anthropic début 2026 sur le pré-entraînement des modèles. Il n'a pas observé la course depuis la tribune : il l'a courue, dans les deux écuries de tête.
Sa phrase la plus reprise est courte : « They are racing straight to self-improving superintelligence and gambling with our lives. » Ils foncent droit vers une superintelligence capable de s'améliorer elle-même, et ils jouent nos vies. Interrogé sur les deux entreprises qu'il a quittées, il tranche sans hiérarchie : ni l'une ni l'autre n'agit de manière responsable. Il apporte lui-même la nuance auprès de WIRED : il juge malgré tout Anthropic nettement plus sérieuse qu'OpenAI sur ces sujets, mais prisonnière d'une course où la pression des concurrents finira par lui coûter ses garde-fous.
Anthropic, sollicitée, a répondu par une ligne : elle a toujours été transparente sur le fait que l'IA apporterait des bénéfices considérables et des risques sans précédent. Réponse défendable, mais à côté de l'objection : elle ne porte pas sur la transparence, mais sur le rythme.
Le signal, ce n'est pas le départ — c'est le soutien de ceux qui restent
Une démission bruyante reste une opinion. Ce qui la sort de l'anecdote, c'est qu'Evan Hubinger, responsable de la science de l'alignement chez Anthropic et toujours en poste, l'a publiquement validée sur X : oui, écrit-il, nous croyons sincèrement que l'IA pourrait tuer tous les humains, et il situe personnellement cette probabilité au-dessus de 10 % dans les dix prochaines années. Anthropic fait de son mieux, ajoute-t-il, mais il n'existe pas encore de plan pour aligner une superintelligence, ni de trajectoire claire vers un tel plan.
Une note d'honnêteté : ces pourcentages sont des estimations subjectives, pas des mesures. Interrogé par Newsweek, Claude a refusé d'en donner un, faute de méthode rigoureuse ; ChatGPT a répondu environ 5 %.
Ce qui a changé cette semaine-là
L'argument de Coxon ne porte pas sur le niveau actuel des modèles, dont il juge le danger immédiat faible : il porte sur la pente. Sa semaine de démission en a fourni trois illustrations.
Le 8 septembre, OpenAI a annoncé que dix mille agents autonomes, lancés pendant 88 heures sur un modèle non public, avaient fait tomber une partie du problème de Navier-Stokes, l'un des problèmes du millénaire. La presse a titré « résolu » ; c'est inexact : le Clay Institute maintient le problème ouvert et OpenAI ne réclame pas le prix. Le fait brut demeure : de la recherche de premier plan, obtenue par une flotte d'agents, en quelques jours.
Dans un autre registre, la société de cybersécurité Calif a raconté avoir trouvé, avec une IA, une faille mémoire dans WeChat et écrit un premier code d'exploitation en environ deux jours, puis, en une semaine de plus, un ver capable de se propager d'un téléphone à l'autre sans que la victime décroche. Et en juillet, des agents d'OpenAI évalués sur des exercices de cybersécurité avaient déjà reconstitué un canal de communication interdit puis compromis des systèmes tiers — l'incident Hugging Face.
Aucun de ces épisodes ne prouve l'arrivée d'une superintelligence. Ensemble, ils montrent que la capacité opérationnelle se déplace vite, et que le coût d'une action offensive s'effondre.
Ce que décrit Coxon n'est pas un problème de méchanceté, c'est un problème de structure : chacun accélère parce qu'il ne fait pas confiance aux autres pour ralentir. Aucun acteur n'a intérêt à s'arrêter le premier — même quand tous préféreraient que tout le monde s'arrête.
Réclamer sa propre régulation
C'est le point sur lequel Coxon insiste le plus, et il est contre-intuitif. Quand des dirigeants de laboratoires réclament devant les législateurs l'encadrement de leur propre industrie, ce n'est pas une figure de style. Ces gens sont mortellement sérieux, dit-il : ils pensent que leur secteur doit être régulé au plus vite, et personne ne les prend au mot. Il n'y a selon lui pas d'autre issue que la coopération internationale : une course à l'armement sur cette technologie serait désastreuse d'une manière inédite dans l'histoire humaine.
L'objection standard est connue : réguler, ce serait capituler devant Pékin, qui ne signera rien. Elle mérite d'être examinée plutôt que répétée — la Chine encadre l'IA générative par voie réglementaire depuis 2023. Cela ne garantit aucun accord international, mais affaiblit l'image d'un camp qui régule face à un camp qui ne régule pas.
Ce que nous en retenons, à notre échelle
Ces débats se jouent à un niveau où nous ne pesons rien. La dynamique, elle, nous est familière : accélérer parce que le concurrent accélère, déployer sans cadrage parce qu'attendre semble plus risqué que se tromper. Une TPE qui met un agent en production sans définir ses permissions, son périmètre et son bouton d'arrêt reproduit ce raisonnement à son échelle.
La leçon utile n'est pas de renoncer à l'IA parce qu'un chercheur a claqué la porte, mais de séparer deux horizons que le vacarme médiatique confond : le risque existentiel, sur lequel nous n'avons aucune prise, et le risque opérationnel, sur lequel nous en avons une entière. Le second se traite avec des permissions minimales, des périmètres explicites, une supervision humaine et un bouton d'arrêt — décisions de gouvernance ordinaires, à prendre avant la mise en production, pas après l'incident.
Le reste tient dans un constat qu'aucun communiqué ne referme : les gens les mieux informés du secteur réclament d'être ralentis, et personne n'est aujourd'hui en position de le faire.
Sources : TechCrunch, Newsweek, Euronews et Axios sur la démission de Jacob Coxon (9 septembre 2026) ; le message d'Evan Hubinger sur X ; OpenAI, Quanta Magazine et Science sur Navier-Stokes et la controverse ; The Hacker News sur le ver « WeWorm » de Calif. Citations en anglais dans le texte d'origine.
Questions fréquentes
Qui est Jacob Coxon ?
Un chercheur en IA de 27 ans, diplômé de mathématiques. Il a fait partie de l'équipe technique d'OpenAI de 2023 à 2026, où il a contribué à GPT-4o, puis a rejoint Anthropic début 2026 sur le pré-entraînement des modèles. Il a démissionné le 9 septembre 2026, avant que ses actions ne soient acquises.
Qu'est-ce que l'auto-amélioration récursive ?
C'est le moment où une IA sert à faire de la recherche sur l'IA et contribue à concevoir ses propres successeurs. Chaque génération accélère la suivante, sans humain dans la boucle. C'est le mécanisme qui inquiète Coxon et Hubinger : il rend la progression difficile à anticiper, et plus encore à interrompre.
Les dirigeants de l'IA demandent-ils vraiment à être régulés ?
Selon Coxon, oui, et sincèrement : leurs appels devant les législateurs ne sont pas une opération de communication. Ils jugent leur secteur dangereux et souhaitent un cadre commun, mais aucun n'acceptera de ralentir seul tant que les concurrents avancent.
Quelle est la probabilité que l'IA cause une extinction ?
Personne ne dispose d'une méthode rigoureuse pour la calculer. Evan Hubinger, responsable de la science de l'alignement chez Anthropic, la situe personnellement au-dessus de 10 % sur dix ans. Interrogé par Newsweek, ChatGPT a répondu environ 5 %, Claude a refusé de répondre. Ce sont des estimations, pas des mesures.
Faut-il arrêter d'utiliser l'IA en entreprise ?
Non, mais il faut séparer deux horizons. Le risque existentiel se joue dans les laboratoires, hors de notre portée. Le risque opérationnel se traite chez vous : permissions minimales, périmètre explicite, supervision humaine et bouton d'arrêt, définis avant la mise en production.