// FUTURA SCIENCES — SPAZIO & SCIENZA
« Aucun assureur ne pourrait suivre » : l'aveu inquiétant du géant de l'IA Anthropic avant son entrée en bourse
Les agents d’intelligence artificielle sont au cœur du développement des nouveaux modèles. De plus en plus autonomes, ils sont désormais capables de planifier et d’exécuter des tâches complexes pour atteindre un objectif. Mais cette autonomie croissante soulève une question essentielle : comment s’assurer qu’une IA fait bien ce qu’on lui demande, et rien d’autre ?... Lire la suite
Anthropic pensait garder son modèle le plus avancé hors de portée du public. Pourtant, quelques passionnés ont déjà trouvé un moyen d’y accéder. Et cette intelligence artificielle a déjà montré à quel point elle pourrait être dangereuse entre les mauvaises mains, en découvrant des centaines de failles dans le navigateur Firefox.... Lire la suite
Les dangers de l’intelligence artificielle ne sont plus seulement théoriques. Alors que les incidents se multiplient, Anthropic, le créateur de Claude, vient de publier un document qui soulève une question vertigineuse. Et si les conséquences d’une catastrophe liée à l’IA dépassaient les capacités financières de ceux censés les couvrir ?
Les voix se multiplient pour dénoncer les dangers bien réels de l'intelligence artificielle. Par exemple, Geoffrey Hinton, un des parrains de l'IA, estime à 10 % le risque qu'elle anéantisse l’humanité dans les 10 prochaines années. Et il est loin d'être le seul à tirer la sonnette d'alarme. Nous avons aussi des cas plus concrets où, loin d'être une menace existentielle pour les humains, l'utilisation de l'IA pourrait avoir des répercussions à grande échelle. Citons par exemple les récentes failles dans PHP découvertes avec l'aide de ChatGPT affectant 70 % du Web.
Voir des personnes dénoncer les nouvelles technologies n'a rien de nouveau. En revanche, lorsque les avertissements proviennent de ceux qui les construisent, cela change complètement la donne. Et Anthropic, le créateur de Claude, nous apprend que les conséquences d'un évènement catastrophique lié à l'intelligence artificielle pourraient être telles que toutes les assurances du monde ne suffiraient pas à les couvrir !
Anthropic has filed an S-1 registration statement with the SEC related to its proposed IPO.Read more: https://t.co/zuRMrxXzNxLegal disclaimer: A registration statement relating to these securities has been filed with the SEC but has not yet become effective. These securities…
Anthropic prépare son entrée imminente en bourse et vient de publier son formulaire S-1, un document d'enregistrement obligatoire. Celui-ci détaille sur 95 pages les nombreux risques liés à l'IA, comme les utilisations abusives, notamment pour mener des cyberattaques, les modèles désalignés, la perte de contrôle des modèles autonomes, etc. Le document mentionne aussi l'utilisation de l'IA pour créer des armes chimiques ou biologiques. La liste de catastrophes continue avec le risque que l'IA efface des données, modifie du code ou effectue des transactions financières avant que des humains ne puissent l'arrêter. Elle pourrait également blesser des humains en pilotant des robots. Et il ne faudrait pas oublier tous les problèmes engendrés par les hallucinations, ainsi que l'influence que l'IA peut avoir sur la santé mentale des utilisateurs, comme la psychose liée à l'IA.
Les agents d’intelligence artificielle sont au cœur du développement des nouveaux modèles. De plus en plus autonomes, ils sont désormais capables de planifier et d’exécuter des tâches complexes pour atteindre un objectif. Mais cette autonomie croissante soulève une question essentielle : comment s’assurer qu’une IA fait bien ce qu’on lui demande, et rien d’autre ?... Lire la suite
La firme ne se contente pas d'énumérer les risques. Elle précise que l'ampleur des dégâts pourrait être colossale. Le coût des dommages pourrait largement dépasser les montants couverts par les polices d'assurance. « Parce que nos modèles peuvent se comporter de manière non voulue par l'utilisateur ou le développeur, les réclamations découlant de telles actions pourraient entraîner