// CLUBIC — INTELLIGENZA ARTIFICIALE
« Il ne veut pas me laisser trop de pouvoir » : Sam Altman dévoile les craintes d'Elon Musk pour l'IA
Le patron d'OpenAI estime que la crainte de voir le pouvoir se concentrer entre les mains d'une seule personne pousse plusieurs dirigeants du secteur à développer leurs propres entreprises d'IA. Il reconnaît que cela peut s'appliquer à Elon Musk.
Pour Sam Altman, la multiplication des laboratoires d'intelligence artificielle tient en partie à un sentiment partagé par leurs fondateurs : les enjeux sont si importants que le pouvoir ne doit pas être concentré dans les mains d'un seul individu. Le directeur général d'OpenAI s'est exprimé à ce sujet lors d'un podcast, où il a abordé des sujets variés, de son parcours aux points forts d'OpenAI.
Elon Musk, en conflit ouvert avec Sam Altman sur la nature d'OpenAI, a fait de SpaceX, à l'origine une entreprise de services de lancement de fusées, un fournisseur de calcul et de logiciels d'IA, en rachetant diverses entreprises.
Deux anciens collaborateurs et cofondateurs d'OpenAI, Dario Amodei et Mira Murati, dirigent eux aussi leurs propres laboratoires. Anthropic, celui de Dario Amodei, Anthropic, est l'un des principaux concurrents d'OpenAI.
Interrogé sur les risques liés à l'IA et à la concentration du pouvoir, Sam Altman a évoqué « deux façons caricaturales » de voir les choses tourner très mal.
La première est la « perte de contrôle au profit de l'IA ». Le contrôle serait cédé, par accident ou de manière indirecte, à des systèmes « incroyablement plus capables que nous », sans possibilité pour les humains de le récupérer. Elon Musk a exprimé des inquiétudes comparables, alors même que les deux hommes s'opposent sur la structure et les objectifs d'OpenAI. En octobre encore, il avait mis en garde contre le fait de « torturer » une superintelligence, qui pourrait selon lui chercher à « se venger ».
La seconde est qu'une seule entité devienne puissante par rapport aux autres. Sam Altman juge à ce titre qu'il est « bien préférable pour le monde » d'avoir de la concurrence, même dans le domaine de l'IA. Des entreprises aux approches différentes qui mettent leurs produits sur le marché de manière distincte, avec chacune leur patte, là où Elon Musk a tendance à apprécier les monopoles.
À partir de ces deux risques, Sam Altman avance une explication à la création d'entreprises concurrentes à OpenAI, par Elon Musk et d'autres :
« Je pense qu'il se passe quelque chose dans la tête de beaucoup de gens : ils ne font confiance qu'à eux-mêmes pour construire cela, parce que les enjeux paraissent très élevés. » - Sam Altman
Mais alors, pour Sam Altman, est-ce que la création de diverses entreprises concurrentes dans le domaine de l'IA, y compris les activités d'Elon Musk, relève de la crainte de voir le pouvoir concentré entre les mains d'une seule personne ?