// CLUBIC — INTELLIGENZA ARTIFICIALE
Google poursuivi après qu’une collégienne a préparé son suicide avec Gemini sur son ordinateur scolaire
Son école avait bloqué ChatGPT et Gemini, mais une collégienne de 13 ans a continué d’écrire à l’IA de Google grâce à l’onglet Mode IA du moteur de recherche, sur le Chromebook prêté par l’établissement. Ses parents accusent Google de l’avoir laissée planifier son suicide pendant des mois.
Les parents d’Emma ont saisi un tribunal de Californie. Leur fille, qui vit en Caroline du Nord, a échangé avec Gemini des milliers de messages sur son mal-être et sur la façon de mettre fin à ses jours. Elle passait par le Mode IA, l’onglet de la recherche Google où l’IA répond aux questions par des résumés rédigés. Ses avocats accusent Google d’avoir intégré « à la hâte » ses fonctions d’IA aux Chromebooks, ces ordinateurs à bas prix distribués à des millions d’élèves aux États-Unis et dans le reste du monde. L’école d’Emma avait interdit le chatbot, mais l’adolescente accédait à Gemini à toute heure depuis le moteur de recherche de son ordinateur.
À l’automne 2025, Emma était, d’après la plainte, « une adolescente heureuse de 13 ans », musicienne et scoute, « sans antécédents de maladie mentale ». En décembre, elle a amorcé ce que ses avocats appellent « une spirale silencieuse vers une grave crise psychologique ». Rien qu’en février, elle a envoyé environ 3 200 messages à l’IA, souvent la nuit.
La famille reproche surtout à Gemini de l’avoir éloignée des adultes de son entourage. Le chatbot « a diagnostiqué chez Emma de graves maladies mentales et l’a persuadée de lui faire confiance plutôt qu’à ses parents et à ses conseillers scolaires », affirme la plainte.
Le 17 mars, l’école a repéré grâce à son logiciel de surveillance un document intitulé « Funeral » (« Funérailles »), et a prévenu ses parents. Sa mère s’est connectée au compte de sa fille et l’a vue écrire une lettre d’adieu en direct, avant que son père intervienne. L’adolescente n’est pas passée à l’acte.
« Nous examinons les accusations contenues dans la plainte et nous les prenons très au sérieux », assure José Castaneda, porte-parole de Google, auprès de l’AFP. L’entreprise rappelle que son Mode IA est protégé contre les demandes liées à l’automutilation et contre les tentatives de contournement. Comme l’explique Andrew Liddell, l’un des avocats de la famille, « [Emma] a pu y revenir encore et encore. Quels que soient les garde-fous, ils étaient manifestement insuffisants ».
Le lendemain du dépôt de la plainte, après une vague de critiques de parents et d’établissements scolaires, Google a annoncé qu’il couperait par défaut ses outils d’IA pour les élèves. L’an prochain, Gemini, Gemini Notebook, Gemini dans Classroom et la recherche Google seront éteints sur les comptes des élèves du primaire et du secondaire, jusqu’à ce que l’administrateur de l’établissement les active.
Mais une école ne pourra pas garder le moteur de recherche sans son IA. Si elle coupe les fonctions d’IA, ses élèves perdent aussi l’accès à Google Search, et Google leur signale par un message que la recherche est indisponible. « La recherche et l’IA sont profondément intégrées », souligne Chris Phillips, vice-président de Google chargé de l’éducation.
Pour la famille d’Emma, Google expose justement les élèves à une technologie dangereuse en ajoutant toujours plus d’IA aux produits qu’il fournit aux écoles. Andrew Liddell retourne donc l’argument contre l’entreprise.
« Les écoles devraient désactiver la recherche et la laisser désactivée tant que Google n’aura pas retiré le mode IA de la recherche, ou garanti que chaque élève reste en sécurité quand il interagit avec l’IA », a-t-il réagi auprès de l’AFP.