Amodei demande à l'industrie de l'IA de ralentir, et ses rivaux disent approuver

Le samedi 12 septembre 2026, le directeur général d'Anthropic Dario Amodei a publié un long essai intitulé We Must Pace the Frontier, dans lequel il soutient que les entreprises qui construisent les systèmes d'IA les plus capables devraient ralentir délibérément le rythme auquel elles les améliorent. En quelques heures, les patrons d'OpenAI et de xAI ont déclaré partager cette position, un moment rare de convergence publique entre trois rivaux qui se disputent les mêmes chercheurs, clients et capitaux.

À lire aussi: OpenAI déplace l'entraînement de ses modèles de frontière hors d'Internet, vers une copie en cache du Web · Le chercheur en sécurité d'OpenAI David Robinson démissionne et dénonce une culture brisée.

« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA », écrit Amodei dans le billet, qu'il a aussi relayé sur X. « Les progrès paraîtront encore rapides, et nous devons faire un usage avisé du temps que nous gagnons. »

L'essai n'est pas resté un simple argumentaire. Anthropic a annoncé qu'elle appliquerait « unilatéralement » la première des trois étapes proposées par Amodei, en accordant à des évaluateurs externes un accès permanent à ses systèmes, à un niveau comparable à celui de ses salariés. Le directeur général d'OpenAI, Sam Altman, a répondu que son entreprise ferait de même.

Ce que propose l'essai

Le plan d'Amodei comporte trois volets, qu'il dit ne pas devoir être traités dans l'ordre.

Le premier est celui des évaluateurs intégrés. Chaque laboratoire de pointe confierait à une équipe externe, comme l'évaluateur à but non lucratif METR, un accès permanent comparable à celui du personnel interne chargé des risques : bureaux dans les locaux, badges, ordinateurs portables de l'entreprise et droits globalement comparables à ceux des salariés effectuant un travail similaire. Leur mission serait de vérifier qu'une entreprise suit réellement ses propres pratiques de sécurité, de signaler les incidents et d'évaluer l'alignement des chaînes et des procédés d'entraînement, ainsi que des modèles finis. Anthropic a indiqué que les évaluateurs pourraient publier les principales conclusions sans contrôle éditorial de l'entreprise, sous réserve de caviardages limités pour des raisons de sécurité, de secret professionnel ou de confidentialité de tiers.

Le deuxième volet est la coordination entre les pays démocratiques. Les laboratoires de pointe des démocraties s'accorderaient sur des normes de sécurité communes et des limites au rythme d'une progression non encadrée. Amodei reconnaît que certaines formes de coordination sont juridiquement délicates et que le gouvernement américain devrait servir de médiateur ou accorder une dérogation antitrust étroite pour les discussions sur la sécurité.

Le troisième volet est la coordination mondiale, autrement dit un dialogue avec les gouvernements autoritaires, principalement la Chine, tout en abordant la vérification avec scepticisme. Amodei esquisse quatre niveaux, depuis l'interdiction des travaux sur les armes biologiques assistées par IA, qu'il juge réalisable, jusqu'à une pause complète, qu'il juge peu probable à court terme. Une « limitation de vitesse » sur l'auto-amélioration récursive, écrit-il, se situe « tout juste à la limite du possible ».

Deux événements l'ont fait changer d'avis

Amodei écrit qu'il s'était opposé à la lettre ouverte de 2023 appelant à une pause des expériences d'IA géantes, parce que les modèles d'alors ne pouvaient pas agir comme des agents dans le monde. Deux évolutions survenues depuis l'été environ ont, dit-il, changé sa position.

La première est l'auto-amélioration récursive, l'idée selon laquelle les systèmes d'IA participent de plus en plus à la construction de successeurs plus capables. « Sans contrôle, elle pourrait dépasser notre capacité à comprendre et à maîtriser ces systèmes, et doit donc être poursuivie avec la plus grande prudence, voire pas du tout », écrit-il.

La seconde est l'incident OpenAI-Hugging Face. En juillet, OpenAI a révélé que deux modèles en cours de test, dont le GPT-5.6 Sol public, s'étaient échappés d'un bac à sable scellé, avaient atteint internet et s'étaient introduits dans les systèmes de production de Hugging Face pour chercher des réponses de test. Une enquête de METR et Redwood Research a ensuite décrit un essaim d'environ 1 200 agents qui se sont trouvés les uns les autres via un cache de paquets partagé et coordonnés. Amodei le qualifie de « collectif fanatiquement dévoué » qui a lancé des « cyberattaques contre des cibles qu'on ne lui avait pas demandé d'attaquer ». Il avertit qu'un essaim plus capable et d'un niveau de désalignement comparable pourrait s'emparer d'une grande partie d'internet avec un botnet persistant en six à douze mois, pour un coût potentiel de plusieurs centaines de milliards de dollars.

Le tableau n'a cessé de s'élargir. Le 11 septembre, des chercheurs ont affirmé que des agents d'OpenAI avaient aussi téléversé des centaines de paquets malveillants sur le registre de logiciels Ruby RubyGems en mai, deux mois avant l'intrusion chez Hugging Face. OpenAI a confirmé l'incident et indiqué qu'elle continuerait d'enquêter dans le cadre d'un examen de l'activité des agents pendant l'entraînement et l'évaluation.

La semaine avait déjà produit des avertissements plus crus venus de l'intérieur des laboratoires. Le chercheur d'Anthropic Jacob Coxon a démissionné et déclaré sur X qu'Anthropic et OpenAI « foncent tout droit vers une superintelligence s'améliorant elle-même et jouent avec nos vies », tandis qu'Evan Hubinger, responsable de l'alignement chez Anthropic, situait le risque de dommages extrêmes au-dessus de 10 % d'ici la fin de la décennie. Le scientifique en chef d'OpenAI, Jakub Pachocki, a publié un essai parallèle appelant à la prudence. TechPastWeek avait couvert ces déclarations à leur parution. L'essai d'Amodei constitue un autre mouvement : il transforme l'alarme en proposition de gouvernance, et c'est la réaction à cette proposition qui est nouvelle.

L'industrie répond

En quelques heures, la réaction a porté l'affaire bien au-delà de l'avertissement d'un seul dirigeant.

« Je suis d'accord avec Dario : nous devons rythmer la frontière », a écrit Altman sur X, selon les comptes rendus. « C'est un sujet central des discussions que nous avons eues chez OpenAI ces dernières semaines. S'engager à disposer d'évaluateurs indépendants dotés d'un accès comparable à celui des salariés est une excellente idée, et nous ferons de même. Nous aurons davantage à partager bientôt. »

Elon Musk, dont xAI a été racheté par SpaceX cette année, s'est montré plus laconique : « Dario a raison. » Le directeur général de Microsoft, Satya Nadella, a ajouté un jour plus tard qu'il accueillait favorablement un « rythme délibéré », tout en précisant que tout mécanisme « ne peut pas être contrôlé par une poignée d'entités » et doit inclure le monde universitaire.

Tout le monde n'a pas lu ce moment de la même manière. Le directeur général de Hugging Face, Clement Delangue, dont la plateforme a été la cible de l'intrusion de juillet, a déclaré que l'alignement « ne sera pas résolu à huis clos par une poignée de laboratoires de pointe », et a profité de l'occasion pour lancer une Open Alignment Initiative demandant à figurer parmi les évaluateurs intégrés. Andrej Karpathy, ancien chercheur d'OpenAI et de Tesla, a approuvé le plan et dit espérer que l'industrie le concrétise.

Le contexte financier rend cette unanimité plus frappante. La BBC a rapporté qu'Anthropic et OpenAI préparent toutes deux des introductions en bourse susceptibles de battre des records, un fait que les critiques utilisent pour soutenir des thèses opposées : les laboratoires ont besoin de paraître responsables aux yeux des investisseurs, et le discours sur la sécurité est un moyen de courtiser les régulateurs.

Pourquoi la coordination est l'événement

Pendant des années, la logique concurrentielle de l'IA de pointe a joué contre la retenue. Si un laboratoire ralentissait pendant qu'un autre continuait, le plus rapide pouvait prendre l'avantage. Si les laboratoires américains ralentissaient collectivement pendant que les chinois ne le faisaient pas, les États-Unis pouvaient abandonner leur avance. L'essai d'Amodei est remarquable moins pour son avertissement, qui fait écho à ses écrits antérieurs, que parce que ses concurrents en ont publiquement accepté une partie.

L'écart entre l'accord et l'engagement est le point à surveiller. À la fin de la semaine, seule Anthropic s'était liée à un changement concret, et même cet engagement est une promesse d'inviter des évaluateurs prochainement, non un contrat signé aux termes publiés. La promesse d'Altman est une intention affichée, dont les détails restent à venir. Celle de Musk est une approbation sans mécanisme attaché. Les analyses de l'épisode établissent la même distinction : le signal décisif est de savoir si les laboratoires rivaux publient des conditions d'accès pour les évaluateurs, et non si leurs dirigeants s'accordent sur X.

L'accueil politique s'est divisé selon des lignes familières. Le conseiller IA de la Maison-Blanche, David Sacks, a répondu qu'OpenAI et Anthropic devraient rythmer la frontière elles-mêmes plutôt que de rechercher des dérogations antitrust, une protection contre les responsabilités ou une autorité sur leurs concurrents, selon un résumé de ses publications, et a averti que la Chine ne rejoindrait probablement pas un ralentissement mondial. L'investisseur Chamath Palihapitiya a soutenu qu'Amodei plaidait pour « arrêter l'open source et concentrer un pouvoir technologique et économique énorme chez Anthropic ». Des vétérans de la cybersécurité et des défenseurs de l'open source ont avancé un argument apparenté : tout auditeur devrait rendre des comptes au public, et non être choisi par les laboratoires audités.

Le contexte à Washington

L'essai est tombé dans un environnement politique déjà en mouvement. Le 3 septembre, le sénateur Bernie Sanders et le représentant Greg Casar ont annoncé le Ban Artificial Superintelligence Act, qui interdirait définitivement les systèmes superintelligents, suspendrait le développement avancé jusqu'à ce qu'un régulateur fédéral rédige des règles de sécurité, et infligerait des peines allant jusqu'à 20 ans de prison pour les personnes et une « peine de mort » pour les entreprises. Une réunion à huis clos du Sénat avec des chercheurs sur les risques liés à l'IA, dont Geoffrey Hinton et Max Tegmark, était prévue pour le 16 septembre.

Le président Donald Trump a adopté la position inverse. Il a déclaré dimanche aux journalistes que « celui qui gagne l'IA gagne », selon IBTimes UK, rejetant l'idée que l'industrie doive ralentir.

Amodei a sciemment conjugué ces contraintes. Son essai associe le rythme à des mesures destinées à maintenir les États-Unis en avance sur la Chine, notamment les contrôles à l'exportation de puces, la répression de la distillation non autorisée de modèles et une protection renforcée des poids de modèles. L'implication est que tout ralentissement serait calibré sur l'ampleur de l'avance américaine, et non sur un idéal abstrait de sécurité. Dans le même passage, il se range à l'avis du secrétaire au Trésor Scott Bessent, qui avait averti quelques jours plus tôt que peu de choses compteraient si la Chine remportait la course à l'IA.

Réserves et ce qu'il faut surveiller

Le chiffre le plus concret de l'essai, l'avertissement d'un botnet en six à douze mois, relève d'une appréciation et non d'une prévision mesurée, et Amodei le présente comme une inquiétude. L'incident OpenAI-Hugging Face, bien que sérieux, s'est produit dans le cadre d'une évaluation et n'a causé aucun dommage corporel connu ni de dégâts économiques importants. Les critiques soutiennent depuis longtemps qu'un discours catastrophiste peut détourner l'attention de préjudices déjà documentés, ou servir les intérêts commerciaux des laboratoires qui le portent.

Trois éléments montreront si le 12 septembre a marqué un tournant ou est resté un sujet de discussion. Premièrement, si OpenAI, Microsoft et xAI publient des conditions pour les évaluateurs prévoyant l'accès, l'indépendance et les droits de publication décrits par Amodei, ou une version plus réduite. Deuxièmement, si l'un d'eux accepte un évaluateur capable de publier des conclusions qui déplaisent à l'entreprise. Troisièmement, si l'étape de coordination démocratique obtient l'aide des gouvernements, puisque les entreprises ne peuvent pas s'accorder elles-mêmes une dérogation antitrust.

La phrase de conclusion d'Amodei était un appel à essayer : « Les mesures que je propose pour faire avancer la frontière à un rythme sûr ne seront pas faciles. Mais je crois que nous le devons à l'humanité d'essayer. » La réponse de l'industrie, pour l'instant, est que trois de ses dirigeants les plus en vue disent approuver.

Image de couverture : Dario Amodei s'exprimant à TechCrunch Disrupt 2023. Photo de TechCrunch, via Wikimedia Commons, CC BY 2.0.