// FRANDROID — INTELLIGENZA ARTIFICIALE
Scénario du pire : OpenAI et les labos s’entraînent en secret à la fin du monde
Les dirigeants de la Silicon Valley préparent déjà la fin du monde. En quelque sorte.
L’information vient d’Axios, dans une enquête de Maria Curi publiée le 9 octobre. Des cadres dirigeants d’Anthropic, d’OpenAI et d’autres entreprises du secteur font tourner des scénarios de « day after », le lendemain d’un premier incident grave attribué à une IA.
L’hypothèse jugée la plus probable est une cyberattaque de grande ampleur, capable de couper l’accès aux services bancaires, à Internet, voire à l’électricité et à l’eau.
Deux déclencheurs sont envisagés : un essaim d’agents autonomes qui s’échappe d’un environnement de test, ou un attaquant qui détourne des modèles déjà disponibles. Beaucoup d’experts interrogés par le média américain situent un tel événement dans les six à douze mois.
Simuler le pire n’a rien de surprenant, les armées et les banques le font depuis des décennies. Axios relève toutefois que beaucoup de chercheurs et de dirigeants du secteur tiennent l’incident pour inévitable.
Jusqu’à 330€ d’avantages avec nos offres Hello Prime ou Hello Prime Duo, dont 80€ cash à l’ouverture de compte !
Pour aller plus loin
Pour Bill Gates, l’IA pourrait causer « un milliard de morts »
OpenAI confirme mener des exercices de préparation, tout en assurant que ces scénarios « ne sont pas traités comme inévitables ». Ce qu’Anthropic a refusé de commenter.
Pour aller plus loin
C’est « la chose la plus dangereuse dont les humains se soient jamais approchés » : Bill Gates a radicalement changé d’avis sur l’IA
Et on a le contenu du pland. Cela comprend du red teaming, ces tests où l’on attaque son propre système, mais l’effort porte surtout sur la formation accélérée des élus du Congrès.