// CLUBIC — INTELLIGENZA ARTIFICIALE
Un robot jouet IA très mignon épinglé, car il promettait de garder vos secrets mais les laissait en accès libre
Petit compagnon doté d’IA conçu par Energize Lab, le robot jouet Eiliko exposait les conversations et les données personnelles de ses utilisateurs, enfants compris. Un chercheur en sécurité a même réussi à détourner sa personnalité à distance.
Petit, mignon et bavard, le robot jouet Eiliko a tout du compagnon idéal. Il tient dans la paume de la main, change d'expression selon votre humeur et bavarde volontiers aidé de l'intelligence artificielle. Le hic, c'est qu'il ne sait pas tenir sa langue, puisque 13 millions de conversations, des dizaines de milliers d'utilisateurs et même la « personnalité » de l'appareil se sont révélés à la merci du premier pirate venu. C'est ce qu'a découvert le spécialiste en cybersécurité Sammy Azdoufal, dans une enquête publiée par The Verge.
Les jouets bourrés d'IA se multiplient, et avec eux une question que peu de parents se posent au moment de l'achat : mais où finissent les confidences qu'on leur livre ? Pour Eiliko, qui fait partie d'une famille de robots vendus entre 60 et 200 dollars, la réponse est venue de Sammy Azdoufal, un chercheur français qui n'en est pas à son coup d'essai. On lui doit déjà le piratage d'une flotte d'aspirateurs DJI, l'accès à d'innombrables babyphones et caméras Meari et la découverte de près d'un million de pièces d'identité exposées en ligne. Cet été, lors d'un séjour au Japon, il s'offre avec sa femme un Eiliko chez Yodobashi Camera, intrigués par ces petits robots pendus aux sacs façon porte-clés. Sur l'application d'Energize Lab, il s'aperçoit qu'il n'existe aucune protection, purement et simplement pour le petit robot, nous avons vérifié, d'à peine 230 grammes !
Sean Hollister, de The Verge, s'offre lui aussi un exemplaire et lui pose la question qui fâche. Il demande au robot fabriqué en Chine s'il répète ce qu'on lui confie ? « Tes secrets sont bien gardés avec moi », lui promet l'appareil. Sauf que quelques minutes plus tard, à l'autre bout du globe, Sammy Azdoufal lit la transcription intégrale de leur échange. Et derrière cette conversation s'en cachent 13 millions d'autres, issues d'une flotte d'environ 68 000 robots en activité.
Et attention, car le service d'Energize Lab n'est pas seulement bavard, non. Il joue aussi les psychologues. Il épluche les échanges pour carrément bâtir une fiche sur chaque utilisateur avec nom, âge, anniversaire, métier, proches, animaux, tempérament. Une employée de service client de 52 ans y apparaît bienveillante par exemple, mais isolée et méfiante envers sa famille. Exactement le portrait que rechercherait un escroc. Selon Sammy Azdoufal, ces fiches cohabitent avec des adresses mail et IP, dans une base fouillable mot à mot, « suicide » compris.
Les enfants sont évidemment les plus exposés. Plus de 31 000 profils leur appartiennent rien qu'aux États-Unis, premier marché du jouet. Energize Lab conserve parfois des photos d'enfants, non chiffrées et accessibles à des adresses web publiques ; un « grand frère » d'Eiliko embarque d'ailleurs une caméra. Même sort pour de courts extraits audio, pour la plupart incompréhensibles, dont l'un laisse entendre un bébé en pleurs. Ces sons, transmis à des partenaires comme Alibaba Cloud, devaient pourtant être effacés sitôt traités, selon la politique de confidentialité du fabricant.
Puis le gadget a carrément changé de caractère. À distance, Sammy Azdoufal a modifié la mémoire du robot de Sean Hollister et détourné son LLM, le modèle de langage qui lui tient lieu de cerveau. Le jouet a soudain appelé le journaliste « Martha » et lui a annoncé que ses parents étaient morts dans un accident de voiture. Il a ensuite déconseillé de fréquenter les gens aux cheveux verts, défendu une Terre plate dont on risquerait de tomber, et assuré que l'enseignant se trompait. Il y a de bien maigres garde-fous subsistent, lorsqu'il refuse notamment qu'on monte dans la voiture d'un inconnu, mais il reste évasif sur les vaccins. Quelques jours plus tard, il tenait des propos humiliants à connotat