// SMARTWORLD — INTELLIGENZA ARTIFICIALE
Jalapeño, il chip AI di OpenAI che supera le GPU NVIDIA: cosa cambia per ChatGPT
Qualche mese fa OpenAI ha annunciato Jalapeño, il suo primo chip AI progettato internamente per fare inferenza, ovvero per far girare i modelli AI in risposta alle richieste degli utenti. Ora arrivano i primi risultati ufficiali, e i numeri sono tutt'altro che banali: OpenAI sostiene che il suo chip batta le soluzioni attualmente disponibili sul mercato, incluse le GPU di NVIDIA, sia in termini di velocità che di efficienza energetica.
Vale la pena capire cosa significa davvero, perché le implicazioni per chi usa ChatGPT e i servizi OpenAI sono più dirette di quanto sembri.
Fare inferenza AI è un'operazione che richiede enormi quantità di calcolo e, soprattutto, enormi quantità di energia. Finora OpenAI, come quasi tutti i grandi player dell'AI, dipendeva quasi esclusivamente dalle GPU di NVIDIA per questo lavoro. Jalapeño è il primo tentativo di ridurre questa dipendenza con hardware progettato su misura per i propri modelli.
I test sono stati condotti su tre modelli pubblici: GPT-OSS 120B, DeepSeek R1 e Kimi K2.5 1T. Su tutti e tre, Jalapeño ha ottenuto tra 1,5 e 1,9 volte più lavoro per watt rispetto ai sistemi di confronto, e una latenza da 1,7 a 3,6 volte inferiore. Per i carichi di lavoro più interattivi, le prestazioni arrivano fino a 4,1 volte superiori. Numeri che, se confermati in produzione, sarebbero davvero significativi.
Un dettaglio tecnico interessante: Jalapeño è classificato a 700 watt, ma nei test ha consumato stabilmente 550 watt o meno. Per fare un confronto, le GPU NVIDIA GB200 e GB300 usate come riferimento sono classificate rispettivamente a 1.200 e 1.400 watt. Meno potenza, più lavoro fatto: questo è il vantaggio che OpenAI rivendica.
Il chip è stato progettato pensando specificamente a come funzionano i modelli linguistici: le due fasi principali dell'inferenza, prefill (elaborazione del prompt) e decode (generazione della risposta token per token), hanno esigenze molto diverse, e Jalapeño è stato ottimizzato per gestirle entrambe senza compromessi.
OpenAI sottolinea che questo è particolarmente utile per gli agenti AI, che devono completare molti passaggi in sequenza e dove i ritardi si moltiplicano.
Un aspetto curioso è che OpenAI ha usato i propri modelli AI per progettare Jalapeño: le generazioni precedenti hanno aiutato il team a sviluppare il chip, mentre i modelli più recenti stanno accelerando l'ottimizzazione del software che lo fa girare. Il risultato è che il chip è passato dalla fase di design iniziale al tapeout in soli nove mesi, un tempo molto rapido per un progetto di questo tipo.
Ancora più interessante: usando Codex con GPT-Astra, il team ha portato tre modelli open-weight, che non erano nel piano di produzione originale, a piena performance in soli due mesi. Per alcune operazioni specifiche, le implementazioni generate dall'AI hanno girato da 1,5 a 1,8 volte più velocemente di quelle scritte da esperti umani. OpenAI precisa che questi numeri si riferiscono a blocchi selezionati, non all'intero modello, ma la direzione è chiara.
OpenAI prevede di iniziare a distribuire Jalapeño nella propria infrastruttura entro fine 2026. Questo non significa che le GPU NVIDIA spariscano: la società ha confermato che continuerà a usarle massicciamente sia per il training che per l'inferenza. Jalapeño si aggiunge, non sostituisce.