L’AI comincia a costruire le macchine su cui girerà

Jalapeño non è soltanto il primo chip progettato da OpenAI. È il segnale, forte, che l’intelligenza artificiale sta entrando nel ciclo di progettazione della propria infrastruttura, creando per OpenAI un vantaggio che potrebbe diventare molto difficile da recuperare.

Quando OpenAI ha presentato Jalapeño lo scorso giugno, la lettura più immediata era abbastanza prevedibile: anche OpenAI vuole ridurre la propria dipendenza da NVIDIA e costruire un acceleratore progettato specificamente per i propri modelli.

È certamente una parte della storia, ma secondo me non è la più interessante.

Google ha sviluppato la piattaforma TPU da anni, Amazon ha Trainium e Inferentia, Microsoft ha Maia e quasi tutti gli hyperscaler stanno cercando di avere una propria alternativa, almeno parziale, alle GPU di NVIDIA. Considerando quanto OpenAI spenda in capacità computazionale, passare dalla piattaforma NVIDIA per arrivare prima o poi a un chip proprietario era quasi inevitabile.

Jalapeño, però, nasce in una situazione differente.

OpenAI non è un produttore di semiconduttori che ha deciso di entrare nell’intelligenza artificiale. Ha cominciato costruendo modelli, poi prodotti come ChatGPT e Codex, sistemi di inferenza (il processo con il quale un modello di AI già addestrato analizza dati nuovi e sconosciuti per generare una risposta, una classificazione o una previsione), API e infrastrutture capaci di servire quei modelli su una scala difficilmente replicabile. Solo dopo avere accumulato tutta questa esperienza è arrivata alla conclusione di fare i primi passi nel hardware, chiedendosi quale processore avrebbe costruito se il suo compito principale fosse stato eseguire gli LLM attuali e quelli che OpenAI pensa di sviluppare nei prossimi anni.

Ancora più importante, durante questo percorso ha utilizzato gli stessi modelli AI per contribuire alla progettazione del chip. È qui che la storia cambia e diventa molto interessante: non abbiamo più soltanto software progettato per sfruttare meglio un processore ma, abbiamo il software che comincia ad aiutare gli ingegneri a progettare il processore sul quale girerà la generazione successiva di se stesso.

Nove mesi per arrivare al silicio

Jalapeño è il primo Intelligence Processor di OpenAI, sviluppato con Broadcom e con Celestica per l’integrazione a livello di board, rack e sistema. OpenAI ha definito l’architettura partendo dai propri workload, mentre Broadcom ha portato nel progetto competenze che richiedono decenni per essere costruite, dall’implementazione del silicio al networking ad alte prestazioni.

La cosa sorprendente è la velocità.

Secondo OpenAI e Broadcom, per passare dalla fase di progettazione al progetto finale del chip sono stati necessari circa nove mesi, un ciclo che le due aziende considerano potenzialmente tra i più rapidi mai realizzati per un ASIC ad alte prestazioni di questa complessità. Questo non significa avere concluso tutto il lavoro, ma significa aver superato una delle fasi più costose e complesse dell’intero processo.

OpenAI attribuisce esplicitamente parte di questa velocità all’utilizzo dei propri modelli. L’AI è stata impiegata per esplorare implementazioni differenti, abbreviare i cicli tra progettazione, misurazione e verifica e ottimizzare alcuni circuiti aritmetici, permettendo agli ingegneri di inserire maggiore capacità di calcolo rispettando i tempi previsti dal progetto.

Questo punto va interpretato correttamente. Jalapeño non è un chip che un’intelligenza artificiale ha progettato autonomamente mentre gli ingegneri guardavano. Dietro ci sono team umani (fa quasi senso doverlo specificare in questo modo) di OpenAI, Broadcom e Celestica e competenze estremamente specialistiche nel design dei semiconduttori, nel packaging, nelle memorie, nel networking e nella produzione.

Ma sarebbe altrettanto sbagliato liquidare il ruolo dell’AI come semplice assistenza alla scrittura di qualche riga di codice.

OpenAI afferma che l’AI ha partecipato direttamente al ciclo di progettazione e continua a utilizzarla anche dopo la produzione del silicio, per programmare e ottimizzare il chip. Utilizzando Codex con GPT-Astra, il team è riuscito a portare tre modelli open-weight (OpenAI SS, Deepseek R1 e Kimi K2.5), che non facevano parte del piano originale di produzione, a prestazioni elevate su Jalapeño nell’arco di due mesi. L’AI non sta semplicemente usando il nuovo hardware ma sta aiutando a costruirlo e, una volta costruito, sta imparando a programmarlo ed ottimizzarlo.

Perché OpenAI può progettare un chip diverso

NVIDIA e AMD devono affrontare un problema molto più ampio.

Una GPU NVIDIA o AMD deve essere abbastanza flessibile da servire migliaia di clienti, architetture di modello differenti, training, fine-tuning, inferenza, simulazione scientifica, robotica e applicazioni che probabilmente non esistevano ancora quando il progetto del chip è cominciato.

Questa generalità è anche una delle ragioni della loro forza. NVIDIA, in particolare, non vende semplicemente GPU. Ha costruito tutto un ecosistema che nel corso degli anni è diventata parte dell’infrastruttura fondamentale dell’AI moderna.

Ed é proprio qui che OpenAI ha un vantaggio differente: non deve necessariamente costruire il processore migliore per tutti. Deve costruire un processore eccezionalmente efficiente per quei processi operativi che conosce meglio.

Ogni giorno può osservare come vengono realmente utilizzati ChatGPT, Codex, le API e gli agenti. Può vedere dove viene speso il tempo, quali operazioni diventano costose quando vengono moltiplicate per milioni di richieste, quanto pesa la memoria rispetto al calcolo, come cambia il workload con contesti sempre più lunghi e quanto una piccola latenza aggiunta a ogni singolo passaggio diventi enorme quando un agente deve compierne decine o centinaia prima di completare il proprio lavoro.

Questi dati non servono soltanto a migliorare il software ma possono diventare requisiti per la generazione successiva dell’hardware.

Jalapeño è stato progettato proprio partendo da questo tipo di osservazione. Durante l’inferenza di un LLM, la fase di iniziale tende a essere molto intensa dal punto di vista computazionale. La successiva generazione dei token, invece, dipende maggiormente dalla banda di memoria, mentre la comunicazione tra chip e nodi può introdurre ritardi significativi quando lo stato del modello deve essere continuamente spostato.

OpenAI ha quindi progettato insieme un sistema completo cercando di ridurre questi movimenti di dati non necessari mantendo locale il più possibile lo stato del modello per permettere al sistema di adattarsi alle differenti fasi dell’inferenza. Non ha preso una GPU esistente e cercato il modo migliore per eseguire un LLM. Ha cominciato chiedendosi come dovrebbe essere l’hardware se l’LLM fosse il punto di partenza.

Questa differenza potrebbe diventare enorme con gli agenti, perché un agente non effettua una singola richiesta e termina. Ragiona, utilizza strumenti, riceve un risultato, aggiorna il contesto e continua. Una riduzione relativamente piccola della latenza su un singolo passaggio può quindi moltiplicarsi per tutte le azioni necessarie a completare un task.

I primi benchmark sono notevoli, ma sono ancora risultati interni

Il 25 agosto OpenAI ha pubblicato i primi benchmark misurati di Jalapeño su InferenceX, utilizzando non soltanto GPT-OSS 120B ma anche DeepSeek R1 670B e Kimi K2.5 da un trilione di parametri.

Secondo i risultati pubblicati dall’azienda, Jalapeño avrebbe prodotto tra 1,5 e 1,9 volte più lavoro AI per watt rispetto ai sistemi commerciali utilizzati nel confronto. Nei workload maggiormente sensibili, il vantaggio dichiarato arriva tra 2,1 e 4,1 volte.

Sono risultati certamente impressionanti per una prima generazione, soprattutto perché Jalapeño ha mantenuto il vantaggio anche su modelli non sviluppati da OpenAI ma occorre evitare una conclusione affrettata: questi benchmark sono stati pubblicati da OpenAI e devono essere verificati nel tempo attraverso test più ampi e confronti indipendenti.

Quindi non possiamo ancora dire che OpenAI avrebbe battuto NVIDIA. Non è questo il punto. La parte importante è che OpenAI è arrivata al primo silicio funzionante mentre la seconda generazione è già in fase avanzata di sviluppo e la terza sta prendendo forma.

È la velocità con la quale quel ciclo può ripetersi che trovo molto più interessante del risultato del primo chip.

Anthropic ha i modelli, ma non possiede il chip

Il confronto con Anthropic è forse ancora più interessante, perché parte dallo stesso lato della catena di sviluppo come per OpenAI.

Anthropic non nasce producendo processori. Nasce costruendo modelli frontier e Claude è oggi uno dei concorrenti più importanti di OpenAI. L’azienda possiede quindi una conoscenza molto profonda dei propri workload e potrebbe, almeno teoricamente, trarre vantaggio dalla stessa integrazione tra modello e hardware. La differenza è che Anthropic non dispone oggi di un acceleratore proprietario equivalente a Jalapeño.

Per ottenere la capacità di calcolo necessaria sta adottando una strategia multi-provider e investendo enormemente nell’accesso all’hardware costruito da altri. Nell’aprile 2026 ha ampliato la partnership con Google e Broadcom, nello stesso mese ha esteso il rapporto con Amazon impegnandosi per oltre 100 miliardi di dollari nell’arco di dieci anni senza poi contare l’aver affittato il datacenter “Colollus” da Elon Musk.

Questa non è necessariamente una cattiva strategia, anzi: permette ad Anthropic di utilizzare tecnologie differenti senza assumersi direttamente il rischio industriale e finanziario della progettazione del silicio, che rimane un’attività estremamente complessa e costosa. Può collaborare con altre aziende per quanto riguarda l’hardware e continuare ad avere accesso anche alle architetture NVIDIA quando servono.

Rimane però una differenza sostanziale: Anthropic può spiegare a Google o Amazon come Claude utilizza il loro hardware e può collaborare strettamente con loro per ottimizzarlo. Alla fine, però, la roadmap del processore appartiene a un’altra azienda che deve soddisfare anche altri clienti, altri prodotti e altre priorità. OpenAI, con Jalapeño invece, può partire dalla roadmap dei propri modelli e trasformarla direttamente nella roadmap del proprio silicio.

Se tra due anni OpenAI ritiene che una determinata architettura di modello, una modalità di reasoning oppure un nuovo tipo di agente richiederà un rapporto completamente differente tra memoria, calcolo e networking, può iniziare a progettare quell’esigenza nel chip prima ancora che il modello arrivi agli utenti.

La differenza è che mentre Anthropic può chiedere al proprio fornitore di farlo, OpenAI invece può fare tutto il processo indipendentemente da terzi.

NVIDIA e AMD stanno percorrendo la strada opposta

NVIDIA e AMD si trovano invece dall’altra parte. Sono partite dal silicio e stanno progressivamente costruendo sempre più livelli software e AI sopra di esso.

NVIDIA è ormai molto più di un produttore di tutta una infrastruttura hardware e sta sviluppando famiglie di modelli come Nemotron, pensate per agenti e applicazioni enterprise. AMD sta facendo qualcosa di analogo sul piano della piattaforma, cercando di rendere l’intero stack AI più completo, dal data center alle workstation locali. La differenza è nella direzione dalla quale arrivano.

NVIDIA e AMD possiedono decenni di conoscenza nella progettazione hardware e stanno salendo verso i modelli e il software AI. OpenAI possiede l’esperienza dei modelli e dei prodotti e sta scendendo verso il silicio. Anthropic possiede i modelli ma, almeno per il momento, si ferma prima dell’hardware proprietario.

Nessuna di queste strategie garantisce automaticamente la vittoria, ma quella di OpenAI crea una combinazione abbastanza particolare perché ogni livello del sistema può fornire informazioni direttamente al livello successivo.

Il vantaggio non è Jalapeño. È il ciclo che Jalapeño può mettere in movimento

Quando si parla di tecnologia utilizzo con molta cautela parole come “incolmabile”, soprattutto quando dall’altra parte c’è NVIDIA.

NVIDIA possiede una posizione straordinaria nel mercato, una capacità industriale enorme e uno stack costruito durante decenni. Jensen Huang e il suo team hanno perfettamente compreso che il futuro non si gioca più sul singolo chip, ma sull’intero sistema composto da calcolo, memoria, networking, storage e software. AMD, da parte sua, sta investendo per costruire un’alternativa sempre più credibile attraverso standard aperti.

Quello che può diventare estremamente difficile da recuperare non è quindi il vantaggio prestazionale di Jalapeño Gen 1. È il feedback loop che OpenAI sta cercando di costruire.

I modelli attuali aiutano gli ingegneri a progettare un chip migliore. Quel chip riduce il costo e la latenza dell’inferenza. Una inferenza più economica permette di eseguire più richieste, reasoning più lungo e agenti capaci di compiere più passaggi. Questi workload producono nuovi dati operativi e fanno emergere colli di bottiglia che oggi non possiamo ancora vedere. Le informazioni raccolte vengono utilizzate per progettare sia i modelli successivi sia Jalapeño Gen 2 e Gen 3, utilizzando nel frattempo strumenti AI più potenti di quelli che avevano aiutato a sviluppare la prima generazione.

Il ciclo potrebbe quindi diventare:

AI migliore → progettazione hardware più veloce → hardware più adatto all’AI → inference più veloce ed economica → agenti più capaci → AI ancora migliore → nuova generazione hardware.

OpenAI descrive la propria strategia in termini molto simili: prodotti, modelli, developer platform, chip e data center devono diventare un unico sistema nel quale il miglioramento di ogni livello rafforza gli altri. (openai.com)

È questa integrazione che può trasformarsi nel vero moat. Non perché NVIDIA non possa costruire hardware migliore, ma perché deve costruirlo per un mercato, non perché Anthropic non possa costruire modelli migliori, ma perché OpenAI può invece cominciare a ottimizzare contemporaneamente entrambe le estremità.

Quando il modello conosce già il chip che non esiste ancora

C’è poi una conseguenza più sottile: tradizionalmente un nuovo processore viene progettato, prodotto e soltanto successivamente gli sviluppatori devono capire come sfruttarlo al meglio. Servono compiler, kernel, librerie e mesi o anni di ottimizzazione prima che il software utilizzi davvero tutte le possibilità dell’hardware.

Con Jalapeño questo processo comincia a sovrapporsi: l’AI aiuta a progettare il chip e, nel contempo, il chip viene progettato affinché l’AI possa contribuire a programmarlo. OpenAI ha deliberatamente cercato di creare un’architettura prevedibile e sufficientemente chiara da permettere ai modelli di ragionare sulla distribuzione del calcolo.

Questo significa che quando arriverà una nuova architettura di modello non sarà necessariamente necessario aspettare che un gruppo di ingegneri scriva manualmente ogni ottimizzazione. L’AI potrà contribuire a generare, misurare e migliorare le implementazioni necessarie per utilizzare il proprio hardware.

Oggi questo significa che Codex aiuta a scrivere kernel ma un domani potrebbe significare che un modello contribuisce a esplorare migliaia di varianti di una parte dell’architettura, identifica quelle più promettenti, aiuta a verificarle e successivamente genera il software necessario per sfruttare il silicio risultante.

A quel punto il confine tra progettazione del modello, del compiler e del chip comincia a diventare molto meno netto.

Il costo dell’intelligenza diventa parte del modello

C’è anche una ragione economica per cui tutto questo conta.

Negli ultimi anni ci siamo concentrati soprattutto sulla capacità dei modelli. Ogni nuova generazione viene giudicata chiedendo se ragiona meglio, scrive un codice migliore oppure se riesce a risolvere benchmark più difficili.

Con gli agenti, ed iniziamo a vedere anche direttamente le nostre esperienze con OpenClaw e Hermes per esempio, il costo per ottenere il risultato diventa altrettanto importante. Un chatbot può produrre una risposta utilizzando una singola inferenza relativamente breve. Un agente può compiere cinquanta, cento o mille passaggi, interrogare strumenti, mantenere contesti enormi e generare quantità di token molto superiori prima di completare il compito.

Se ogni passaggio costa troppo oppure richiede troppo tempo, alcune applicazioni semplicemente non diventano economicamente sostenibili.

Per questo un miglioramento di due volte nell’efficienza non solo significa dimezzare una voce della bolletta ma può significare che un agente che prima costava troppo cominci a diventare economicamente sostenibile.

OpenAI lo dice abbastanza chiaramente: Jalapeño deve aumentare il lavoro utile prodotto dalla stessa quantità di hardware ed energia. Se ci riesce, il vantaggio hardware diventa direttamente un vantaggio sul prodotto.

Un Codex più veloce può compiere più tentativi mentre aspettiamo. Un agente può approfondire maggiormente un problema senza diventare economicamente assurdo. ChatGPT può offrire modalità di reasoning più pesanti a una platea più ampia.

A quel punto il chip non è più un componente nascosto nel data center ma diventa una parte indiretta delle capacità del modello.

L’AI che comincerà ad autocostruirsi le versioni future

Per decenni gli esseri umani hanno progettato hardware e software, mentre le macchine li eseguivano. Questo rapporto potrebbe però cambiare radicalmente. Pensandoci bene, questa, alla fine, è la cosa più interessante di Jalapeño.

I sistemi AI non si limiteranno a utilizzare strumenti progettati da altri. Contribuiranno direttamente allo sviluppo delle proprie versioni successive, suggerendo architetture, generando e verificando codice, ottimizzando compiler ed esplorando nuove configurazioni hardware.

Jalapeño rappresenta uno dei primi passi in questa direzione.

Gli esseri umani continueranno a definire obiettivi e vincoli, ma i modelli parteciperanno sempre più profondamente alla progettazione del proprio hardware e del software necessario a utilizzarlo. I workload di una generazione serviranno a individuare i limiti del sistema e a progettare quella successiva.

Il risultato sarà uno sviluppo ricorsivo: un modello contribuirà a progettare un chip più efficiente, quel chip permetterà di sviluppare modelli più potenti e questi ultimi saranno a loro volta più capaci di progettare hardware e software migliori.

Non sarà ancora un sistema completamente autonomo, ma l’AI contribuirà direttamente alla costruzione dell’infrastruttura necessaria alla propria evoluzione.

Quando questo processo diventerà abbastanza veloce, la competizione non sarà più soltanto tra il modello migliore e il processore più potente. Sarà tra aziende nelle quali hardware, software e AI evolvono separatamente e aziende nelle quali ogni generazione contribuisce alla progettazione della successiva.

È qui che potrebbe emergere uno dei primi segnali concreti di AGI: non perché un sistema sappia improvvisamente svolgere qualsiasi compito umano, ma perché abbia iniziato a partecipare alla propria evoluzione.

Jalapeño potrebbe quindi essere ricordato non soltanto perché OpenAI ha costruito un chip, ma perché l’AI ha cominciato a costruirsi l’hardware e il software sui quali sarebbe girata in futuro.

Lascia un commento