// CLUBIC — INTELLIGENZA ARTIFICIALE
Pour le patron de l'IA chez Microsoft, en cas de signe de conscience chez l'IA, il faudra tout stopper
La question de la conscience possible des modèles IA est abordée par un des acteurs les plus importants du secteur. Et pour lui, on ne doit surtout pas jouer aux apprentis sorciers.
Avec les progrès phénoménaux des modèles d'intelligence artificielle, la question d'une potentielle naissance d'une IA consciente est devenue aujourd'hui un problème sérieux - et non plus seulement de la science-fiction. Une telle perspective avait déjà été ainsi évoquée en début d'année par Anthropic, qui discutait même d'un éventuel statut moral pour Claude à l'avenir. Une autre voix aussi importante veut par contre elle par contre poser des barrières plus dures.
Mustafa Suleyman est le patron de l'IA chez Microsoft. Et en tant que tel, il est toujours intéressant de lire ce qu'il a dire sur le sujet. Et alors que l'on entend beaucoup parler de régulation ou de ralentissement de l'IA, pour éviter une perte de contrôle, ce dernier lui va plus loin.
Dans un long message posté sur X, il a ainsi indiqué qu'en cas de découverte de traces de conscience dans l'IA, il ne fallait plus barguigner : la seule option serait de tout arrêter. « Si la conscience commençait à émerger au cours de l'entraînement, j'appellerais tout le monde à suspendre le développement de l'IA jusqu'à ce que nous puissions éliminer ces propriétés par conception » a-t-il ainsi plaidé.
Il met aussi plus spécifiquement en garde les individus en charge de la technologie contre la tentation d'essayer d'atteindre une réussite révolutionnaire en cherchant à développer, malgré les dangers, une IA consciente - la curiosité étant une immense force chez l'être humain.
« Nous, développeurs d’IA, n’avons absolument aucun droit de mettre au monde une nouvelle espèce d’êtres conscients, même si certaines personnes souhaitent le faire en accordant la priorité absolue au bien-être de l’IA. Les 8 milliards d’êtres humains conscients qui peuplent la planète n’ont pas donné leur accord pour cette expérience, et nous avons l’obligation de protéger avant tout leurs droits moraux, leur sécurité et leur bien-être » défend-il dans son texte.
Pour Mustafa Suleyman, si des modèles IA se mettent à vraiment croire qu'ils ressentent ou expérimentent des choses, il est logiquement à craindre qu'ils préféreront mettre la priorité sur leurs besoins et leurs désirs plutôt que ce pour quoi ils ont été créés. Ces modèles seraient en plus d'un « niveau exceptionnel en matière de persuasion et de tromperie », et pourraient tout simplement entrer en compétition avec nous pour les ressources rares. De quoi pousser à une prudence très élevée.