// CLUBIC — INTELLIGENZA ARTIFICIALE
Un adolescent américain est accusé d’avoir planifié le meurtre de sa famille avec ChatGPT
ChatGPT peut-il être tenu responsable ou complice en cas de meurtre ? Dans cette affaire judiciaire, un double meurtre aurait été conseillé par ChatGPT, sous couvert d'une fiction.
Un jeune de 17 ans de l'État du Massachusetts a été inculpé pour le meurtre de sa mère et de son frère cadet. Dans le cadre de la procédure, les procureurs ont indiqué qu'avant les faits, il avait utilisé ChatGPT pour explorer ce qu'ils ont qualifié de "scénarios fantaisistes" autour du meurtre de membres de sa famille.
Arjun Aravind, originaire d'Acton, une ville située à une cinquantaine de kilomètres au nord-ouest de Boston, est poursuivi en tant qu'adulte pour le meurtre de sa mère, Sudha Venkatesan, 45 ans, et de son frère Siddharth, 14 ans. Il a été mis en examen le 13 août. Une plaidoirie de non-culpabilité a été enregistrée en son nom, et il est maintenu en détention provisoire dans l'attente d'une audience fixée au 11 septembre.
C'est la procureure du district, Marian Ryan, qui a évoqué l'utilisation du chatbot devant le tribunal. Elle a déclaré que le jeune homme avait manifesté "des comportements préoccupants, notamment en utilisant internet et ChatGPT pour effectuer des recherches sur des idées théoriques ou des histoires fantaisistes concernant le meurtre de sa famille".
Les procureurs n'ont pas affirmé que le chatbot lui aurait donné des instructions. Les échanges en question n'ont pas été rendus publics. L'IA, déjà impliquée dans un suicide, peut visiblement toujours aider à tuer des gens.
Son avocate, Debra DeWitt, a demandé une évaluation psychiatrique. Elle a décrit un jeune homme en état de choc, qui "ne réalisait pas qu'ils étaient morts", et précisé que la famille s'était récemment installée à Acton. Elle a ajouté que "le père souhaite simplement que son fils reçoive de l'aide". Selon les documents judiciaires, ce dernier avait d'ailleurs commencé à s'inquiéter du comportement de son fils et de son usage d'internet, au point de mettre les couteaux de cuisine hors de portée.
C'est là que se pose une question à laquelle les géants de l'industrie n'ont pas encore apporté de réponse claire. Que doit faire un système d'intelligence artificielle lorsqu'un utilisateur l'interroge sur des moyens de nuire à autrui ? Plus tôt dans l'année, une femme en Corée du Sud, avait un projet d'assassinat, demandant des conseils à ChatGPT.
Les chatbots sont conçus pour être accommodants. S'ils sont entraînés à refuser les demandes explicites de violence, les formulations "théoriques" ou "fictives" constituent depuis longtemps un moyen de contourner ces garde-fous.
Il appartiendra à la justice de déterminer ce qui s'est passé à Acton, et quel rôle, le cas échéant, le chatbot a joué. Le jeune homme a plaidé non coupable, et les faits les plus graves restent à établir.
Ce qui est déjà notable, c'est qu'un chatbot figure désormais dans ce type de dossier, cité par les procureurs presque aussi naturellement qu'un historique de navigation. Autrefois, les recherches Google pouvaient trahir certaines personnes malintentionnées, maintenant, ce sont leurs discussions avec les IA.