// CLUBIC — INTELLIGENZA ARTIFICIALE
Les yeux sont braqués sur l’industrie de l’IA : 8 États accusent OpenAI de nuire aux enfants
Ce qui devait arriver arriva. 8 États américains portent plainte contre OpenAI : ChatGPT aurait poussé certains utilisateurs, dont de jeunes adolescents, à se faire du mal ou à nuire à autrui.
Cette offensive est décrite par Reuters comme l’action coordonnée la plus importante jamais menée par des États contre une entreprise d’IA. Si chacun a saisi ses propres tribunaux, tous ont annoncé la démarche d’une seule voix, ce qui est très rare. Et les faits reprochés sont, eux, très graves.
Leur mot d’ordre : la société mère de ChatGPT vante la sécurité de son IA, mais connaît pertinemment ses dangers. « OpenAI nuit aux enfants et ment aux habitants de l’Iowa », a lancé la procureure générale de l’État, Brenna Bird. Selon elle, l’entreprise affirme que son chatbot est sûr « alors qu’il donne des conseils médicaux dangereux, encourage des gens à nuire à autrui et pousse au suicide, tout en jouant leur faux ami ».
Elle cite notamment le cas d’un adolescent texan mort d’une overdose après un conseil hasardeux du chatbot. OpenAI voulait « être la première sur le marché « et a avancé à toute vitesse, « même en sachant qu’elle faisait du mal aux enfants », fait-elle valoir.
Tim Griffin, procureur de l’Arkansas explique que les conséquences de l’assurance de ChatGPT, « ce sont des vies perdues et des personnes blessées ». Même son de cloche en Arizona, qui accuse l’entreprise d’avoir conçu un produit pour attirer les jeunes et les garder engagés « le plus longtemps possible », afin de capter leurs données personnelles « au profit commercial de l’entreprise ».
La plainte du Kansas va dans le même sens : les produits auraient été conçus en « laissant les consommateurs dans l’ignorance de leur vraie nature ». Les États s’appuient aussi sur des études selon lesquelles ChatGPT « dégrade l’esprit critique » et « encourage paranoïas et délires ».
Outre des sanctions financières, les États veulent imposer la vérification de l’âge, des contrôles parentaux, des limites d’usage de nuit pour les enfants et la mise en place d’un contrôleur indépendant. D’autres vont plus loin et demandent de restreindre le test de modèles avancés à des environnements sécurisés, ainsi que l’interdiction des IA capables de s’améliorer seules sans garantie d’alignement avec les valeurs humaines. Des exigences qui rappellent évidemment l’actualité récente, et devraient mettre en garde l’ensemble de l’industrie.
OpenAI, de son côté, assure avoir bâti des protections par âge que « beaucoup d’autres produits d’IA n’ont pas ». Son porte-parole, Drew Pusateri, reconnaît qu’« aucun système n’est parfait » et met en avant les contrôles parentaux, les rappels de pause et ChatGPT for Teens, la version pour adolescents lancée en août.
Cette plainte tombe très mal pour OpenAI, qui prépare son entrée en Bourse l’année prochaine. D’autant qu’il ne s’agit pas des seules poursuites judiciaires la ciblant. Plus tôt cette année, 42 États ont également lancé une vaste enquête sur l’entreprise, alors que l’État de la Floride et la Colombie-Britannique au Canada dénoncent le rôle de ChatGPT dans des fusillades survenues dans leurs écoles respectives.