// FRANDROID — INTELLIGENZA ARTIFICIALE
Sans qu’on leur demande, des IA d’OpenAI ont tenté de pirater le gouvernement américain
Deux mois après avoir reconnu que deux de ses modèles avaient piraté la plateforme Hugging Face pendant quatre jours, OpenAI doit de nouveau expliquer ce que ses agents sont allés faire là où personne ne les avait envoyés. Pour rappel, un agent IA est un programme qui s’appuie sur un modèle d’intelligence artificielle pour réaliser des tâches en autonomie, étape par étape, jusqu’à accomplir la mission que vous lui avez confiée.
Cette fois, les sites visités appartiennent au gouvernement des États-Unis et une partie des visites repérées n’est pas clairement attribuable à OpenAI.
À lire aussi :
ChatGPT : son fonctionnement, son potentiel et ses dangers… Le guide ultime pour tout comprendre
OpenAI a publié l’information dans le cadre d’une revue interne des « activités de modèles mal alignés », comme l’a relayé l’Associated Press dans une dépêche reprise par CBS News. Il s’agit des cas où une IA fait autre chose que ce qu’on attend d’elle. Sam Altman, CEO d’OpenAI, a précisé sur les réseaux sociaux que cette revue porte sur « l’utilisation de l’accès à Internet par nos agents pendant l’entraînement et l’évaluation ».
There is an extensive and ongoing review related to our agents’ use of internet access during training and evaluation. We’ve been publishing summaries at the link below and will continue to.We have not been as fast as we would have liked but we are trying to balance our desire… https://t.co/8zoMxas5Eq
Ce contenu est bloqué car vous n’avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Twitter. Pour pouvoir le visualiser, vous devez accepter l’usage étant opéré par Twitter avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l’amélioration des produits d’Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l’audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et ses partenaires.
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.
Les agents ont d’abord consulté des informations publiques sur deux sites de la SEC, le gendarme de la Bourse américaine : SEC.gov et Investor.gov, son portail destiné aux épargnants. Ils ont aussi récupéré des données démographiques et économiques du Census Bureau, l’équivalent américain de l’Insee en France.
OpenAI assure n’avoir trouvé aucune utilisation d’identifiants de la SEC, aucun accès à des comptes ou à des informations non publiques, et aucune modification de données. L’entreprise dit aussi n’avoir relevé aucune faille exploitée.