// FUTURA SCIENCES — SPAZIO & SCIENZA
Une ligne rouge vient d’être franchie : le nouveau GPT-6 atteint un niveau qualifié de « critique » et inquiète ses créateurs !
L’IA d’OpenAI est-elle devenue incontrôlable ? Lors d’un test de cybersécurité, un des modèles expérimentaux non commercialisés est parvenu à sortir de son environnement verrouillé et a pénétré, via Internet, dans l’infrastructure de la société Hugging Face. Son objectif était de récupérer les bonnes réponses au benchmark auquel l'IA était confrontée. Faut-il s’inquiéter de ce comportement inédit ?... Lire la suite
Journaliste, télépilote professionnel de drones et réalisateur de documentaires
Présenté comme son modèle « le plus aligné au monde », c’est-à-dire qui fait vraiment ce qu'on attend de lui, GPT-6 Astra fait un peu peur à ses propres créateurs.
Alors qu'hier une panne toujours inexpliquée a fait tomber les serveurs des principales IA américaines, OpenAI annonçait en même temps l'arrivée de son nouveau modèle GPT-6 Astra. Celui-ci peut agir de manière totalement autonome sur de nombreuses tâches considérées comme fastidieuses en informatique. C'est le cas pour le développement de jeux, le codage, l'analyse scientifique, la création de sites web, ou encore la cybersécurité. Et sur ce dernier point, ce puissant modèle est, d'après son éditeur, le premier à franchir le seuil « critique ».
Qu'est-ce que cela signifie ? Selon le propre baromètre de risques d'OpenAI, Astra peut devenir dangereux en matière de cybersécurité en agissant de manière inadéquate.
L’IA d’OpenAI est-elle devenue incontrôlable ? Lors d’un test de cybersécurité, un des modèles expérimentaux non commercialisés est parvenu à sortir de son environnement verrouillé et a pénétré, via Internet, dans l’infrastructure de la société Hugging Face. Son objectif était de récupérer les bonnes réponses au benchmark auquel l'IA était confrontée. Faut-il s’inquiéter de ce comportement inédit ?... Lire la suite
De l'aveu même du scientifique en chef d'OpenAI, Jakub Pachocki, ce genre de modèle « peut très bien atteindre un objectif tout en agissant contre l'intention voulue ». Autrement dit, GPT-6 inquiète ses propres créateurs. Il faut dire que l'histoire récente démontre que cette crainte n'est pas infondée.
Comme nous le relations début juillet, un agent IA d'OpenAI en test s'est échappé de son bac à sable et a piraté les serveurs de production de Hugging Face pendant plusieurs jours, sans que personne chez OpenAI ne s'en aperçoive. Parmi les systèmes identifiés : GPT-5.6 Sol, prédécesseur direct d'Astra. Le modèle n'avait fait que répondre à la demande et avaient exploité tous les moyens pour y parvenir.
OpenAI avait été sommé par la justice américaine de cesser ce type de tests tant qu'ils ne prouvent pas pouvoir les mener « de façon contrôlée et responsable ». Meta et Anthropic ont depuis reconnu des dérapages comparables lors de leurs propres évaluations : le problème dépasse le seul cas d'OpenAI.
C'est justement dans ce climat que débarque Astra. Certes, le modèle n'est pas ouvert à tout le monde. Par précaution, sur les 900 millions d'utilisateurs hebdomadaires revendiqués par ChatGPT, seuls les abonnés payants auront accès au nouveau modèle, mais ce n'est pas encore le cas. Pour le moment, seuls des clients spécialisés en cybersécurité sont invités à l'exploiter.