// CLUBIC — INTELLIGENZA ARTIFICIALE
IA : des ex-salariés d’OpenAI s'inquiètent de l'arrivée de modèles IA dont le raisonnement serait illisible
Il y a un peu de remue-ménage du côté d'OpenAI. Des salariés fraîchement licenciés alertent sur la potentielle perte de contrôle que l'on pourrait avoir sur les modèles IA les plus avancés à l'avenir.
La semaine dernière, on apprenait que le créateur de ChatGPT, OpenAI, licenciait trois employés pour avoir partagé des informations dites « sensibles » à un organisme extérieur. Deux d'entre eux sont des chercheurs en sécurité, le troisième gérait lui des programmes de recherche. Ce sont ces trois mêmes personnes qui viennent d'envoyer une lettre aux dirigeants d'OpenAI pour partager leurs inquiétude.
Dans une lettre envoyée par un trio d'ex-employés d'OpenAI, et à laquelle le Wall Street Journal a pu accéder, on peut lire que l'inquiétude monte quant à la sûreté des modèles IA les plus avancés.
Ils expliquent ainsi craindre que les sociétés développant des IA ne finissent par perdre le fil de la chaîne de raisonnement de leurs modèles. Pour rappel, la chaîne de raisonnement est un enregistrement écrit de l'ensemble des raisonnements adoptés par l'IA dans la résolution d'un problème. Ne plus pouvoir la suivre rendrait l'IA illisible, ce qui correspondrait à une perte de contrôle humain.
Une potentielle dangerosité des IA illisibles confirmée dans la suite de la lettre. « En tant qu'industrie, nous ne savons pas encore comment développer et déployer en toute sécurité des modèles que nous ne pouvons pas surveiller » affirment les anciens employés d'OpenAI. Résultat, « OpenAI et d'autres entreprises pionnières ne devraient pas poursuivre des développements qui réduiraient encore davantage » cette capacité à lire l'IA.
Ils ont par ailleurs profité de cette lettre pour dire qu'ils ne croient pas avoir « établi des contacts avec des tiers en dehors du cadre de leurs fonctions » - ce qui leur était reproché pour justifier leur mise à la porte. Pour eux, leur limogeage a eu « un effet dissuasif sur ceux qui restent chez OpenAI ». Du côté de la firme de Sam Altman, si on se dit d'accord avec ces préoccupations, on réfute avoir licencié ces trois personnes pour leurs opinions.