// FRANDROID — INTELLIGENZA ARTIFICIALE
Box Android TV : pourquoi Anthropic craint des vers d’IA capables de se répliquer seuls
Anthropic, l’éditeur de Claude, a publié le 12 octobre une étude de son équipe Frontier Red Team consacrée à la réplication autonome des modèles d’IA. Selon ses auteurs, William Zhou et Daniel Freeman, de petits modèles pourraient d’ici quelques mois devenir capables de se copier sur des appareils comme les fours connectés ou les box Android TV de marques peu connues. Ces résultats viennent d’expériences en environnement contrôlé, et aucun ver de ce type n’a encore été repéré en conditions réelles.
Les chercheurs parlent d’ARA, pour Autonomous Replication and Adaptation (réplication et adaptation autonomes). Cette capacité ouvrirait la voie à un ver informatique piloté par l’IA, qui se propagerait sans instruction humaine. Selon Anthropic, un tel réplicateur serait difficile à arrêter, puisqu’aucun point central ne permet de le couper. Sa progression resterait toutefois lente, puisqu’il faudrait plusieurs jours pour que le nombre de copies double.
Des travaux antérieurs, cités par Anthropic, avaient déjà montré que des agents d’IA pouvaient analyser un réseau, exploiter une faille et copier les poids d’un modèle vers une autre machine au sein d’un cluster de GPU. L’étude d’Anthropic porte sur une étape moins étudiée, celle où le modèle doit réussir seul à tourner sur un appareil qu’il ne connaît pas.
Découvrez la TV TCL SQD-Mini LED : la puissance du Mini LED et la précision du Quantum Dot, actuellement en promotion pour le Black Friday.
En outre, Anthropic souligne que, contrairement à un logiciel malveillant classique, il pourrait comprendre seul le fonctionnement d’appareils inconnus. Lors des évaluations, un modèle de 9 milliards de paramètres, Qwen3.5-9B d’Alibaba, est ainsi parvenu à installer et faire fonctionner seul un modèle d’IA sur 8 des 9 types de matériel testés. L’équipe a aussi fait fonctionner le modèle Gemma4-26B-A4B de Google réparti sur 15 box Android TV, achetées environ 55 dollars l’unité (environ 50 euros), à 0,39 jeton par seconde, soit à peu près un jeton toutes les deux secondes et demie. Ces box se contentaient toutefois d’exécuter le modèle et ne se sont pas infectées entre elles. La propagation a été testée à part, sur un réseau isolé de huit machines Android virtuelles. GLM-5.2, un modèle à poids ouverts du laboratoire chinois Z.ai (ex-Zhipu AI), a atteint les huit machines dans quatre essais sur cinq.
Les modèles de 30 milliards de paramètres ou moins réalisent déjà plusieurs étapes de la réplication. Néanmoins, ils commettent des erreurs lorsqu’il faut enchaîner tout le processus. Dans des tests simplifiés, GLM-5.2 et des modèles plus puissants vont jusqu’au bout. Or ces très gros modèles ont besoin d’un centre de données pour fonctionner. Le danger viendrait donc des petits modèles, capables de tourner sur des appareils bon marché. Selon Anthropic, si les petits modèles continuent de progresser à leur rythme passé, ils atteindraient ce niveau d’ici fin 2026, soit dans quelques semaines. Les chercheurs précisent que cette projection, fondée sur un indice général de capacités, reste approximative.
Pour estimer l’ampleur possible du phénomène, les chercheurs ont pris pour référence Kimwolf, un botnet qui a infecté plus de deux millions d’appareils, en majorité des box Android TV. D’après leurs calculs, un parc de cette taille suffirait à faire tourner environ 133 000 copies du modèle.
Le 2 novembre, Google a annoncé avoir démantelé, avec plusieurs partenaires, le botnet XCPE, qui réunissait plus de 1,3 million de box Android TV. Selon Google, le fabricant chinois Videostrong a lui-même intégré la porte dérobée au firmware de ses appareils. D’après Ars Technica, la plupart ont été vendus sous la marque Mecool. Si on la supprime, la porte dérobée se réinstalle depuis une partition système protégée.
Google a interdit à Videostrong de fabriquer des appareils Android certifiés. En neutralisant aussi les serveurs de plus d’une dizaine de familles de logiciels malveillants, le groupe estime avoir