// FRANDROID — INTELLIGENZA ARTIFICIALE
« Ils foncent vers une superintelligence et jouent avec nos vies » : un chercheur quitte Anthropic après OpenAI
Une des personnes qui entraînent les modèles d’Antrophic a publié sa lettre de démission sur X. Jacob Coxon, 27 ans, chercheur en pré-entraînement, trois ans passés entre OpenAI et Anthropic. Son message tient en une phrase : aucune des deux entreprises n’agit de manière responsable. Le fil affichait plus de 76 millions de vues le lendemain matin. Les démissions théâtrales, on connaît dans l’IA. Celle-ci a un petit quelque chose en plus.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
Ce contenu est bloqué car vous n’avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Twitter. Pour pouvoir le visualiser, vous devez accepter l’usage étant opéré par Twitter avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l’amélioration des produits d’Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l’audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et ses partenaires.
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.
Jacob Coxon a fait l’essentiel de sa carrière chez OpenAI, de 2023 à 2026, où il a travaillé sur GPT-4o. Il n’a rejoint Anthropic qu’en début d’année, attiré par sa réputation en matière de sécurité, avant de quitter l’industrie tout court, d’après le Wall Street Journal. Sa thèse : les laboratoires foncent vers une superintelligence capable de s’améliorer elle-même.
Pour aller plus loin
OpenAI pense toucher au but, celui d’atteindre l’AGI, mais avec sa définition maison
Chez OpenAI, dit-il, les équipes n’ont pas intériorisé les enjeux. Chez Anthropic, elles les comprennent, mais courent quand même, convaincues que personne d’autre ne le fera proprement. Il ajoute que les dirigeants adoucissent leur discours devant la presse et disent autre chose en privé. Il faut dire qu’Anthropic prépare son entrée en Bourse, et l’été a été marqué par un incident qui donne du poids à ses mots.
Protégez votre vie numérique et vos appareils contre les virus, arnaques, ransomwares et menaces en ligne avec Bitdefender, primé pour sa protection et compatible avec Windows, Mac, Android et iOS.
Evan Hubinger, responsable de la science de l’alignement chez Anthropic, a répondu publiquement à Jacob Coxon : « Jacob a raison ». Il estime lui-même à plus de 10 % la probabilité que l’IA tue l’ensemble des humains dans la décennie. Il précise que les modèles actuels présentent un risque faible selon le dernier rapport de risques de l’entreprise, et que son inquiétude porte sur une superintelligence issue de l’auto-amélioration, un phénomène qui, selon lui, arrive plus vite que prévu.