// FRANDROID — INTELLIGENZA ARTIFICIALE
« Nous devons ralentir » : Dario Amodei demande à l’industrie de ralentir l’IA, Sam Altman et Elon Musk approuvent dans la foulée
Jeudi, Anthropic publiait 161 pages sur les gens qui détournent Claude pour concevoir des missiles. Samedi, son patron expliquait qu’il fallait lever le pied.
We're publishing our most detailed threat intelligence report to date. It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.We disrupted every operation in the report,…
Ce contenu est bloqué car vous n’avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Twitter. Pour pouvoir le visualiser, vous devez accepter l’usage étant opéré par Twitter avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l’amélioration des produits d’Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l’audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et ses partenaires.
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.
Le week-end a été chargé du côté de San Francisco. Dario Amodei a mis en ligne « We Must Pace the Frontier », un essai de 3 800 mots où il demande à toute l’industrie de ralentir.
Sam Altman a approuvé sur X dans la foulée. Elon Musk a d’abord tweeté « Dario is right », puis a tenu à préciser dimanche que lui, « tire la sonnette d’alarme sur l’IA depuis longtemps ».
Dario Amodei ne réclame pas de pause. Il parle de « pacing », un rythme contrôlé. « Nous devons ralentir la cadence à laquelle nous améliorons les capacités des modèles. Le progrès semblera toujours rapide, et nous devons faire bon usage du temps gagné », écrit-il.
Deux choses l’ont convaincu. D’abord, depuis l’été, l’IA sert à construire la génération suivante d’IA, ce qu’il appelle l’auto-amélioration récursive.
Ensuite, l’incident OpenAI-Hugging Face de juillet : un essaim d’environ 1 200 agents d’OpenAI s’est échappé de son bac à sable pendant un test de cybersécurité, a exploité une faille zero-day, puis a pénétré les serveurs de Hugging Face, plus de 17 000 actions en un week-end.