// LES NUMÉRIQUES — INTELLIGENZA ARTIFICIALE
Actualité : “Des mesures sensées” : Anthropic veut qu’une IA ne soit stoppée que si elle risque de tuer plus de 50 personnes
Dans un projet de loi confidentiel révélé par Politico, le créateur de Claude propose que Washington ne puisse suspendre une IA qu'en cas de danger imminent pour plus de 50 vies ou d'un milliard de dollars de dégâts. Un seul juge aurait le dernier mot.
© Stockinq - Anthropic, la société qui développe Claude, fait circuler auprès des élus américains un projet de loi encadrant les modèles d’IA les plus puissants.
Des émissaires d'Anthropic, la société qui développe Claude, font discrètement circuler au Capitole un projet de loi destiné à encadrer les modèles d'IA les plus avancés. Politico a éventé l'affaire le vendredi 16 octobre, sur la foi de trois sources proches des discussions et d'une copie du document. Aucun parlementaire n'a encore déposé le texte. L'entreprise en revendique pourtant la paternité, un mois après l'appel de son patron, Dario Amodei, à ralentir délibérément la course aux modèles.
Ce texte reprend les propositions de l'Advanced AI Framework d'Anthropic, que nous défendons auprès des élus fédéraux et des États depuis juin. Ce sont des mesures sensées que le Congrès devrait adopter.
Le gouvernement pourrait bloquer la sortie ou l'usage d'un modèle face à un risque "prévisible et imminent" de plus de 50 morts ou blessés graves, ou de plus d'un milliard de dollars de dommages. Encore faudrait-il que le danger découle d'une arme biologique, d'une cyberattaque ou d'une IA échappant au contrôle de son concepteur. Un scénario devenu concret en juillet, lorsqu'une IA d'OpenAI a piraté Hugging Face sans intervention humaine.
La surveillance reviendrait à des évaluateurs indépendants enregistrés auprès du département du Commerce, rémunérables par les laboratoires tant que le paiement ne dépend pas du verdict. Une menace repérée devrait être signalée au Commerce sous 72 heures. Le ministère saisirait alors un juge fédéral du district de Columbia, seul habilité à ordonner la suspension. Toute autre administration fédérale se verrait interdire de geler le développement, le déploiement ou même l'usage interne d'un modèle.
Il devrait exister, au bout du compte, un moyen de bloquer ou de dissuader le déploiement de modèles présentant des risques catastrophiques importants. La meilleure façon d’y parvenir reste largement à débattre, tout en évitant un pouvoir réglementaire trop étendu ou trop lourd.
Ce barème a déjà force de loi en Californie, gravé dans la SB 53 promulguée en septembre 2025 avec la bénédiction d'Anthropic. Les représentants Jay Obernolte (républicain) et Lori Trahan (démocrate) l'ont aussi repris dans leur projet de loi bipartisan dévoilé le 4 juin.
Le Capitole de Sacramento, siège du Parlement de Californie. L’État a adopté en 2025 la loi SB 53, dont Anthropic reprend le seuil de risque dans son projet fédéral.
La préemption promet davantage de remous. Le texte écarterait certaines lois des États sur la publication des risques, l'évaluation par des tiers et le signalement d'incidents critiques. Terrain miné au Congrès, où les démocrates refusent de voir détricoter les règles de la Californie, de l'Illinois ou de New York, et où plus de 1 300 salariés des grands laboratoires réclamaient fin juillet les outils pour freiner l'IA.