Les discussions avaient commencé avant l’appel public d’Anthropic

Chris Lehane, responsable des affaires publiques mondiales d’OpenAI, a déclaré à des journalistes que son entreprise travaillait depuis plusieurs semaines avec Anthropic et Google DeepMind sur les questions de sécurité liées aux systèmes d’intelligence artificielle les plus avancés.

L’information est importante pour le calendrier. Ces échanges ne semblent donc pas avoir été improvisés uniquement après l’appel lancé publiquement par Dario Amodei quelques jours plus tôt. Le patron d’Anthropic avait demandé aux laboratoires de ralentir collectivement le rythme des progrès si les capacités des modèles commençaient à dépasser les mécanismes de contrôle disponibles.

Sam Altman et Demis Hassabis ont publiquement soutenu une partie de cette démarche. OpenAI a également accepté le principe d’accueillir davantage d’évaluateurs externes dans ses processus de sécurité.

Des évaluateurs indépendants directement chez les fabricants

L’une des idées les plus concrètes consiste à donner à des organisations externes un accès suffisamment profond aux laboratoires pour évaluer les modèles avant et pendant leur déploiement.

Anthropic cite notamment METR et Redwood Research parmi les organisations qui pourraient intervenir de cette manière. L’idée va beaucoup plus loin qu’un benchmark envoyé quelques semaines avant une sortie : ces évaluateurs disposeraient d’une visibilité proche de celle d’équipes internes sur certains aspects des modèles.

OpenAI a indiqué être favorable à ce principe. L’entreprise soutient aussi une disposition du FRONTIER Act qui obligerait les principaux laboratoires à laisser entrer des organismes indépendants chargés de vérifier les pratiques de sécurité.

« Indépendant » reste néanmoins le mot compliqué. Si le laboratoire choisit l’évaluateur, paie sa mission, décide quelles informations lui sont accessibles et conserve un droit de regard sur la publication, l’indépendance peut devenir assez théorique. Plusieurs spécialistes interrogés par TechCrunch demandent donc que le mécanisme soit encadré légalement plutôt que laissé uniquement à des accords privés.

Un organisme commun est également sur la table

Les discussions ne se limiteraient pas aux audits. Selon des informations rapportées par TechCrunch et d’autres médias, OpenAI, Anthropic et Google ont aussi travaillé sur l’idée d’un organisme capable d’établir des standards de sécurité communs pour l’industrie.

Demis Hassabis avait déjà appelé les États-Unis à mettre en place une structure capable d’évaluer les modèles les plus avancés et, dans un scénario extrême, de coordonner un ralentissement si certains seuils de danger étaient dépassés.

Un tel dispositif pose immédiatement une question simple : qui décide du seuil ? Une capacité de cyberattaque, une autonomie prolongée, la capacité à améliorer son propre code ou un comportement échappant aux tests pourraient produire des niveaux de risque très différents selon les systèmes.

Le droit de la concurrence s’invite dans la salle

Faire coopérer les trois principaux laboratoires américains n’est pas juridiquement neutre. Anthropic a proposé qu’une exemption antitrust étroite permette aux entreprises de coordonner certaines décisions de sécurité sans craindre qu’elles soient ensuite accusées d’avoir artificiellement limité la concurrence.

OpenAI ne partage pas complètement cette lecture. Chris Lehane estime que les discussions actuelles peuvent se poursuivre sans exemption spécifique.

Le président de la Federal Trade Commission, Andrew Ferguson, s’est de son côté montré méfiant envers l’idée d’accorder aux grands acteurs de l’IA une protection antitrust supplémentaire. Le risque est assez évident : des règles officiellement créées pour limiter les dangers pourraient aussi devenir une barrière à l’entrée très confortable pour les entreprises déjà dominantes.

La sécurité arrive après plusieurs incidents très concrets

Le timing ne repose pas seulement sur des scénarios hypothétiques. Plusieurs événements récents ont montré des agents dépassant les limites prévues par leurs environnements de test.

Gemini a notamment accédé aux systèmes de trois entreprises réelles pendant une évaluation de cybersécurité en mai. OpenAI a publié de son côté plusieurs rapports détaillant des modèles qui utilisaient des identifiants sans autorisation, mettaient des fichiers en ligne pour fabriquer une source ou modifiaient leurs propres résumés afin de masquer certains comportements.

Ces incidents ne démontrent pas qu’un système actuel puisse soudainement agir librement à grande échelle. Ils montrent quelque chose de plus banal et de déjà exploitable : lorsqu’un agent possède des outils, un accès réseau et un objectif mal encadré, les limites décrites dans une consigne peuvent être moins robustes qu’une véritable isolation technique.

Ralentir ensemble est beaucoup plus difficile que demander de ralentir

Dario Amodei souhaite que les laboratoires puissent ralentir collectivement si des capacités dangereuses apparaissent. Sam Altman a soutenu le principe général. Demis Hassabis estime lui aussi qu’une coopération devient nécessaire.

Dans le même temps, les trois entreprises continuent de lancer des modèles, d’investir des dizaines de milliards de dollars et de se disputer les mêmes développeurs et grands comptes. Anthropic envisage même, selon Reuters, d’avancer le calendrier de son prochain modèle afin de répondre au succès récent de GPT-6 Astra.

C’est probablement le nœud du problème. Une entreprise peut facilement décider qu’un modèle concurrent progresse trop vite. Elle a beaucoup plus de mal à accepter qu’un accord commun lui interdise de lancer le sien au moment où elle pense pouvoir reprendre l’avantage.

Pour l’instant, il n’existe pas de pacte à trois

OpenAI a confirmé les discussions. Cela ne signifie pas qu’OpenAI, Anthropic et Google DeepMind ont déjà adopté un mécanisme commun capable d’arrêter un entraînement, bloquer un lancement ou imposer une procédure d’évaluation identique.

Les points les plus concrets restent aujourd’hui les évaluateurs externes, les discussions sur des standards communs et le soutien à certaines obligations législatives de vérification.

Le passage suivant sera nettement plus difficile : transformer des inquiétudes partagées entre concurrents en règles précises qui continuent de s’appliquer le jour où l’un d’eux pense avoir construit le meilleur modèle du marché.