// LES NUMÉRIQUES — INTELLIGENZA ARTIFICIALE
Actualité : Personne au monde ne contrôle l'IA : après un été de piratages et d'évasions, Google, OpenAI et Anthropic proposent... de se surveiller eux-mêmes
Les trois laboratoires les plus puissants au monde négocient depuis juillet la création d'un organisme d'autorégulation calqué sur le régulateur de Wall Street. Ils en seraient à la fois les fondateurs, les financeurs et les premiers régulés. Au palmarès 2026 de la sûreté de l'IA, les trois ont obtenu un C+ ou moins.
© G Sloan et Anna Moneymaker/Sipa et Getty Images. AFP - Dario Amodei (Anthropic) et Sam Altman (OpenAI). Rivaux sur chaque benchmark et chaque contrat, les patrons des deux plus grands laboratoires d'IA au monde négocient avec Google DeepMind la création d'un organisme commun d'autorégulation, après un été où leurs propres modèles ont échappé à tout contrôle.
Après un été marqué par le piratage Hugging Face, Google DeepMind, OpenAI et Anthropic avancent vers la création d'un organisme indépendant chargé de fixer les règles de sécurité de l'intelligence artificielle frontière. Baptisé provisoirement SAFA (Standards Authority for Frontier AI), le projet vise un lancement fin 2026 ou début 2027, selon les informations publiées par The Information le 24 septembre et confirmées par plusieurs sources indépendantes.
We have a new acronym for you: SAFA. The Google, OpenAI and Anthropic AI safety body is starting to take shape, with a tentative name of the Standards Authority for Frontier AI and hopes to launch by the end of the year or early next. W/ @steph_palazzoloLots of details here… pic.twitter.com/v8OLpUmqqR
L'initiative a germé le 14 juillet, quand Demis Hassabis, patron de Google DeepMind, a publié sur X un texte intitulé A Framework for Frontier AI and the Dawning of a New Age. Il y proposait un organisme calqué sur la FINRA (Financial Industry Regulatory Authority), le régulateur de Wall Street financé par l'industrie financière elle-même : une structure autorégulatrice, dotée du pouvoir d'édicter des règles, de mener des audits et de signaler les infractions. Un groupe de travail réunissant des représentants des trois labos s'est formé dans les semaines suivantes.
Le 12 septembre, Dario Amodei, CEO d'Anthropic, a posé le cadre intellectuel de l'effort dans son essai We Must Pace the Frontier, appelant à embarquer des évaluateurs tiers dans chaque laboratoire. Trois jours plus tard, Chris Lehane, directeur des affaires internationales d'OpenAI, a confirmé les discussions lors d'un briefing à Washington, précisant que l'entreprise estimait qu'aucune exemption antitrust n'était nécessaire pour coordonner des efforts de sécurité.
SAFA prévoit des protocoles de tests et d'audit indépendants avant le déploiement des modèles, des évaluations par des tiers, et des règles de signalement d'incidents. Le projet est né d'un constat d'échec : les trois entreprises avaient d'abord cherché un partenariat public-privé avec supervision fédérale, mais l'approche s'est enlisée faute de consensus dans l'industrie et après les changements de priorités à Washington. Le poste de "czar IA" de la Maison-Blanche est vacant depuis le départ de Sriram Krishnan fin juin.
C'est justement Krishnan, ancien conseiller IA de Donald Trump et ex-associé du fonds Andreessen Horowitz, que les trois labos auraient approché pour diriger SAFA. Un choix qui ancrerait l'organisme dans l'orbite de la Silicon Valley et de l'administration Trump, dont la position sur la régulation de l'IA tient en une phrase : "celui qui gagne sur l'IA gagne tout".
Sriram Krishnan, ancien conseiller IA de Donald Trump à la Maison-Blanche et ex-associé du fonds Andreessen Horowitz. Il fait partie des candidats approchés par Google, OpenAI et Anthropic pour diriger la SAFA, le futur organisme d'autorégulation de l'intelligence artificielle.
La tension est structurelle. Les trois fondateurs de SAFA ont tous reçu un C+ ou moins au AI Safety Index 2026 du Future of Life Institute, qui évalue les entreprises sur la transparence, les pratiques de sécurité et le développement responsable. Ils créeraient un organisme dont ils sont à la fois les architectes, les financeurs