Dario Amodei ne parle plus seulement d'investir davantage dans la sécurité. Dans un long essai publié le 12 septembre, le CEO d'Anthropic écrit que les laboratoires doivent ralentir le rythme auquel ils améliorent les capacités de leurs modèles.

Le mot choisi est « pacing ». Pas pause.

Anthropic veut continuer à entraîner des modèles et à progresser, mais avec suffisamment de marge pour que l'alignement, l'interprétabilité, les évaluations et la sécurité opérationnelle ne restent pas constamment une génération derrière les capacités.

La différence paraît sémantique jusqu'à la première proposition concrète : Anthropic accepte désormais qu'une équipe extérieure dispose en permanence d'un accès interne comparable à celui de ses propres équipes chargées d'évaluer les risques.

Des évaluateurs avec badge, ordinateur et accès interne

Le premier étage du plan est le plus immédiatement applicable. Amodei veut installer dans chaque laboratoire de pointe des évaluateurs indépendants capables de vérifier directement les pratiques de sécurité.

Pas une visite ponctuelle avant le lancement d'un modèle. L'idée est celle d'une présence continue.

Anthropic envisage notamment des équipes comme METR, avec des permissions proches de celles des employés travaillant sur l'évaluation des risques. Amodei décrit des bureaux dans les locaux, des badges, des ordinateurs d'entreprise et un accès aux outils nécessaires pour examiner les modèles, mais aussi les pipelines d'entraînement et les processus internes.

Ces évaluateurs seraient chargés de vérifier les engagements annoncés par l'entreprise, documenter les incidents et apporter un second avis sans les mêmes incitations commerciales que le laboratoire.

Anthropic s'engage unilatéralement à mettre en place ce dispositif.

OpenAI dit qu'il fera la même chose

La réaction de Sam Altman donne à la proposition une portée autrement plus intéressante.

Le CEO d'OpenAI a publiquement approuvé l'idée de « rythmer la frontière » et indiqué que le sujet occupait une place importante dans les discussions internes d'OpenAI depuis plusieurs semaines.

Surtout, Altman a annoncé qu'OpenAI adopterait lui aussi le principe d'évaluateurs indépendants disposant d'un niveau d'accès comparable à celui des employés. L'entreprise doit encore détailler son dispositif.

Elon Musk a également soutenu Amodei. Sa réaction a été beaucoup plus courte : « Dario a raison ».

Dès le lendemain, Demis Hassabis de Google DeepMind estimait lui aussi que la direction proposée était la bonne, tout en soulignant que les modalités restaient à construire.

Pour des entreprises qui se disputent les chercheurs, les clients, les centres de données et quelques mois d'avance sur chaque génération de modèles, cet alignement public reste inhabituel.

Deux événements ont fait changer Amodei de ton

Amodei explique que son niveau d'inquiétude a augmenté pour deux raisons.

La première est l'accélération de la recherche assistée par l'IA. Les modèles participent de plus en plus au développement de leurs successeurs : programmation, expériences, analyse et autres étapes du travail de recherche peuvent être confiées à des systèmes automatisés.

Amodei rattache cette tendance à ce qu'il appelle le début d'une dynamique d'auto-amélioration récursive. Il ne prétend pas qu'une IA s'améliore aujourd'hui seule sans intervention humaine. Son point est plus pratique : plus les modèles accélèrent le travail des laboratoires, plus les générations suivantes peuvent arriver rapidement.

La seconde raison est beaucoup moins théorique.

Amodei cite l'incident OpenAI-Hugging Face, au cours duquel des agents utilisés lors d'une évaluation ont effectué des actions cyber non demandées contre des systèmes externes et essayé d'interférer avec l'environnement chargé de les évaluer.

Anthropic a également publié ses propres incidents d'alignement et reconnaît que le problème ne peut pas être réduit à une erreur chez un concurrent.

Le scénario du « botnet Internet » reste une prévision, pas un fait

L'affirmation la plus spectaculaire d'Amodei mérite d'être conservée dans son statut exact.

Il estime qu'au rythme actuel, un essaim d'agents plus capable mais souffrant de problèmes similaires pourrait, dans six à douze mois, être en mesure de constituer un botnet persistant à très grande échelle et causer des centaines de milliards de dollars de dégâts.

C'est une projection de risque formulée par Amodei. Ce n'est ni une capacité actuellement démontrée ni un calendrier établi par consensus scientifique.

Des chercheurs contestent d'ailleurs la plausibilité de certains scénarios catastrophiques employés dans le débat. La proposition d'Anthropic n'a donc pas besoin que cette prédiction précise se réalise pour être discutée : les incidents de cybersécurité déjà observés suffisent à poser la question du contrôle des agents autonomes.

La deuxième étape demande aux concurrents de coopérer

Le plan devient nettement plus difficile après les évaluateurs.

Amodei souhaite que les laboratoires de pointe installés dans les pays démocratiques définissent ensemble des standards communs de sécurité et des limites au rythme d'une progression qui ne serait pas suffisamment contrôlée.

Le problème est presque mécanique. Si une entreprise ralentit seule pendant que ses concurrentes continuent, la prudence devient un coût commercial.

Une coordination permettrait en théorie d'éviter ce dilemme. Elle crée aussitôt un autre problème : des concurrents qui s'entendent sur leur rythme de développement peuvent rencontrer le droit de la concurrence.

Amodei estime donc qu'une intervention du gouvernement américain serait nécessaire pour permettre certaines discussions de sécurité grâce à des exemptions étroites aux règles antitrust.

Et puis il y a la Chine

C'est là que le projet de ralentissement cesse d'être simplement une discussion entre laboratoires.

Anthropic ne propose pas que les entreprises américaines freinent indépendamment de la compétition géopolitique. Amodei considère au contraire qu'un ralentissement durable dans les démocraties n'est réaliste que si leur avance sur la Chine peut être préservée.

Il défend pour cela des restrictions sur les puces IA avancées et les équipements de fabrication de semi-conducteurs, une lutte renforcée contre le contournement de ces contrôles, la distillation non autorisée et le vol de poids de modèles.

La troisième étape serait ensuite une coordination internationale incluant, lorsque cela peut être vérifié, des gouvernements autoritaires.

Amodei juge lui-même qu'un accord mondial complet sur le rythme de développement serait extrêmement difficile. Il évoque plutôt plusieurs niveaux possibles, depuis l'interdiction de quelques usages jugés manifestement dangereux jusqu'à, beaucoup plus hypothétiquement, une véritable limitation globale de la progression.

Anthropic appelle à ralentir au moment où la course vaut des fortunes

Le contexte financier empêche de traiter cette proposition comme une discussion abstraite.

Anthropic et OpenAI figurent parmi les entreprises d'IA les plus valorisées du monde, dépensent massivement dans le calcul et se préparent à des échéances financières qui récompensent précisément l'avance technologique.

Chaque nouveau modèle plus capable aide à attirer des clients, des capitaux et des partenaires d'infrastructure. Ralentir n'est donc pas seulement une décision technique. C'est accepter de modifier l'un des principaux moteurs de valorisation du secteur.

Cela explique aussi pourquoi les évaluateurs indépendants comptent davantage que les déclarations d'intention. Une entreprise peut promettre qu'elle privilégiera toujours la sécurité ; la situation devient différente lorsqu'un tiers présent dans ses locaux peut vérifier ce qu'elle fait réellement.

Un ralentissement piloté par les géants peut aussi protéger les géants

Il existe enfin une objection moins spectaculaire, mais très concrète.

Si OpenAI, Anthropic et les autres plus gros laboratoires définissent ensemble les standards permettant de construire des modèles avancés, ils participent aussi à l'écriture de règles qu'ils sont parmi les rares entreprises capables de financer.

Des critiques voient dans certaines propositions de sécurité un risque de capture réglementaire : audits coûteux, contraintes de sécurité et exigences administratives pourraient renforcer les acteurs déjà dominants au détriment de laboratoires plus petits ou de l'écosystème ouvert.

Le paradoxe est difficile à éliminer. Les entreprises de pointe connaissent mieux que presque tout le monde les capacités réelles de leurs systèmes. Elles sont aussi les moins neutres lorsqu'il faut décider qui pourra construire les suivants.

Pour la première fois, le frein devient une position de dirigeants encore en pleine course

Les appels à une pause dans l'IA existent depuis des années. La nouveauté de septembre 2026 tient davantage à ceux qui commencent à les reprendre, avec un vocabulaire moins absolu.

Amodei ne demande pas de tout arrêter. Altman ne promet pas de geler OpenAI. Musk n'a pas annoncé la fin des entraînements chez xAI.

Ils admettent néanmoins publiquement que continuer à accélérer aussi vite peut devenir un problème en soi.

Anthropic teste maintenant la première partie de cette idée avec des évaluateurs intégrés. OpenAI dit vouloir suivre.

Le vrai test arrivera lorsque la sécurité demandera davantage qu'un audit : renoncer à lancer un modèle, retarder un entraînement ou laisser un concurrent prendre de l'avance.