// FRANDROID — INTELLIGENZA ARTIFICIALE
Anthropic a bloqué des tentatives d’utiliser Claude pour créer des armes biologiques
C’est une nouvelle qui a de quoi faire froid dans le dos. Le jeudi 10 septembre 2026, Anthropic, la société à l’origine de Claude, a publié un nouveau rapport détaillant la manière dont des scientifiques ont tenté de détourner son intelligence artificielle pour mener des recherches susceptibles de faciliter la création d’armes biologiques.
À lire aussi :
Anthropic publie 161 pages sur les détournements de Claude, et ça pique
Dans son document, l’entreprise précise qu’il lui était difficile de déterminer si les recherches menées par ces utilisateurs se faisaient dans un cadre légitime pouvant par exemple conduire à la création d’un vaccin ou non. Anthropic affirme donc avoir fait preuve d’un excès de prudence en bloquant ces requêtes jugées à risque, rapporte le New York Times.
Protégez votre vie numérique et vos appareils contre les virus, arnaques, ransomwares et menaces en ligne avec Bitdefender, primé pour sa protection et compatible avec Windows, Mac, Android et iOS.
« L’utilisation abusive des données biologiques est l’un des risques les plus graves liés aux modèles d’IA de pointe », indique Anthropic. L’entreprise explique ainsi avoir bloqué des demandes portant notamment sur la transmission d’un virus comme le chikungunya et sur sa capacité à échapper au système immunitaire. Même si de telles recherches pourraient contribuer à l’élaboration d’un vaccin, elles peuvent également être détournées à des fins malveillantes. « Sans les garanties adéquates, de telles capacités pourraient avoir des conséquences catastrophiques », souligne le rapport.
Anthropic chiffre l’ampleur du phénomène : cinq cas de recherches biologiques à visée potentiellement militaire ont été repérés et bloqués entre décembre 2025 et août 2026, dont celui du chikungunya et un autre portant sur la grippe aviaire. L’entreprise précise que ses garde-fous ont empêché ces requêtes sensibles d’atteindre ses modèles les plus puissants, l’activité restant cantonnée à des versions moins performantes.
Loin d’être anecdotique, cette situation s’est présentée à plusieurs reprises au cours des derniers mois. Anthropic a recensé différents cas de figure dans lesquels son intelligence artificielle aurait aussi pu être utilisée pour concevoir des missiles, des drones ou encore aider des États à développer un système de surveillance à l’échelle d’un pays.
« À mesure que les modèles deviennent plus performants, les risques qu’ils présentent augmentent », affirme l’entreprise. Une situation complexe face à laquelle Anthropic se veut toutefois rassurante. Elle affirme que ces différents cas lui ont permis de renforcer la sécurité de ses modèles et de mieux prévenir les usages abusifs à l’avenir. Elle ajoute que les comptes ayant utilisé ses modèles à des fins malveillantes ont été suspendus.
Ces blocages n’ont toutefois pas tout arrêté. Selon le rapport, plusieurs chercheurs ont poursuivi leurs travaux par d’autres canaux une fois leurs requêtes refusées, et une plateforme de revente redirigeait les demandes bloquées vers des modèles aux garde-fous plus faibles.
Ces révélations interviennent dans un climat de défiance croissante à l’égard des intelligences artificielles. Plus tôt dans la semaine, Jacob Coxon, chercheur ayant travaillé chez OpenAI et Anthropic, a quitté cette dernière en accusant l’industrie de l’IA de « jouer avec nos vies ». Il estimait notamment que « les responsables du développement de l’IA pensent sincèrement qu’elle a la capacité de tous nous tuer d’ici à la fin de la décennie ». Ambiance.