// CLUBIC — INTELLIGENZA ARTIFICIALE
Anthropic surveille-t-elle les militants anti-IA avec un système de « précrime » ?
Anthropic a bâti, avec l’aide d’une société extérieure spécialisée dans la détection de risques, un dispositif pour repérer à l’avance les mobilisations contre l’intelligence artificielle. L’entreprise dirigée par Dario Amodei signale aussi régulièrement des utilisateurs jugés menaçants à la police américaine, selon une enquête du média The American Prospect.
Pour anticiper les rassemblements prévus lors de déplacements de ses dirigeants, Anthropic reçoit des renseignements de Samdesk, dirigée par James Neufeld. Le centre d’opérations de sécurité de l’entreprise, animé par Keon Ellison et Zach Melvin, a bénéficié de cette collaboration l’an dernier. « Nous avons reçu via Samdesk une alerte alors qu’un dirigeant partait pour une grande ville où une manifestation se préparait », a expliqué Keon Ellison, responsable des opérations du centre de sécurité d’Anthropic, dans un podcast enregistré avec James Neufeld. Cette alerte est arrivée une heure seulement avant le rassemblement, le temps de dérouter le dirigeant.
La défiance envers l’intelligence artificielle progresse dans l’opinion publique américaine. « Le public a une vision négative de l'intelligence artificielle, et c'est un problème important », a écrit Dario Amodei sur son compte X.com, comme vous pouvez le lire dans la publication fleuve ci-dessous.
Sur son site, Anthropic propose encore un poste d’« Enterprise Intelligence Specialist », rémunéré entre 180 000 et 230 000 dollars par an. Dans la fiche de poste, il faut notamment être capable d’identifier la menace de l'activisme comme celles du terrorisme et de l’espionnage industriel. Le Wall Street Journal a rapporté en juillet qu’un « person-of-interest process » interne avait permis de repérer plusieurs personnes avant leur signalement à la police. « Notre objectif est de transformer ces opérations pour recueillir des renseignements proactifs, prédictifs et préventifs sur les menaces », a expliqué un responsable de la sécurité d'’Anthropic.
Le 14 août dernier, un homme a dit à Claude qu’il venait d’acheter un fusil AR-15 et qu'il avait Dario Amodei dans sa ligne de mire. Et ça n’a pas loupé. Cinq jours plus tard, Anthropic a averti la police de San Francisco. Selon le rapport de police consulté par le San Francisco Standard, l’employé d’Anthropic a refusé de montrer les messages complets aux enquêteurs, en invoquant la politique interne de l’entreprise. Ce signalement n'a pourtant pas déclenché son arrestation par la police et l’auteur des messages a ensuite affirmé qu'il plaisantait. La blague n'a visiblement pas été du goût de tous.
Deux jours après la publication de l’enquête, Anthropic a publié un rapport sur les usages détournés de Claude. L’entreprise a reconnu, dans ce document, que des groupes basés en Russie, en Chine, en Iran et au Yémen avaient utilisé son IA pour concevoir des missiles ou bâtir des outils d’espionnage. Comme on vous le racontait, au Mali, un consultant avait construit avec Claude une plateforme de surveillance. Elle couvrait vingt-cinq millions de cartes SIM, sans contrôle judiciaire systématique.
En février, on vous expliquait également qu’Anthropic avait publiquement refusé de laisser ses modèles servir à la surveillance intérieure ou aux systèmes d’armes autonomes. Le Pentagone avait alors écarté l'entreprise de ses marchés. Finalement fin août, un juge californien a annulé cette exclusion. Selon lui, une entreprise critique du gouvernement ne pouvait pas être visée par une mesure de rétorsion au nom de la sécurité nationale.
Désormais, et toujours selon une enquête du Prospect, Anthropic recrute pour des postes commerciaux liés à la sécurité nationale, en vue de renouer avec les contrats militaires. D’après le journaliste Daniel Boguslaw, ce virage est lié à un autre chantier politique porté par l’organisation Americans for Responsible Innovation. Celle-ci demande que l’intelligence artificielle obtienne le statut d’infrastructure critique, avec des obligations de signalement de