Capitolo 6 — La filiera: dai chip alle applicazioni

Questo capitolo ti porta dietro le quinte. Perché una GPU — un processore nato per i videogiochi — è diventata l'oggetto più conteso dell'economia mondiale? Perché addestrare un modello costa centinaia di milioni? E cosa succede fisicamente quando premi invio su una domanda? Capire la filiera non è cultura generale: è quello che rende leggibili i prezzi, i limiti e metà delle notizie tech.

Dal silicio alle GPU

Partiamo dal fondo, dal silicio. Un processore normale (CPU) ha pochi core molto potenti, progettati per eseguire operazioni in sequenza, una dopo l'altra, il più velocemente possibile. Una GPU fa la scommessa opposta: migliaia di core più semplici che lavorano tutti insieme, in parallelo. Per la grafica dei videogiochi era perfetto (milioni di pixel da calcolare simultaneamente); e si è scoperto che è perfetto anche per l'AI, perché un modello neurale, sotto il cofano, è essenzialmente una gigantesca sequenza di moltiplicazioni di matrici — tabelle di numeri moltiplicate per altre tabelle di numeri, un compito che si spezza magnificamente in migliaia di pezzi paralleli. Quando nel capitolo 1 dicevo che il modello "calcola le probabilità del prossimo token", il calcolo concreto è questo: matrici che si moltiplicano dentro le GPU.

NVIDIA e il fossato di CUDA

Qui si spiega il dominio di NVIDIA, l'azienda che per anni è stata la più preziosa del mondo. Non vende solo i chip migliori: controlla anche CUDA, il software con cui i programmatori parlano a quei chip, e su cui è costruito praticamente tutto il software AI esistente. Cambiare fornitore di chip significa riscrivere il software: ecco il fossato. I concorrenti esistono — AMD, le TPU di Google, i chip che i grandi del cloud si costruiscono in casa — ma il vantaggio accumulato è enorme. Quando leggi di "guerre dei chip" tra Stati Uniti e Cina, di export ban e di fabbriche di semiconduttori a Taiwan (TSMC, che fisicamente produce i chip che NVIDIA progetta): stai leggendo dello strato A della tua tassonomia, e ora sai perché conta.

Datacenter, energia e costi

Saliamo di un piano: i datacenter. Una GPU da sola non addestra niente: i modelli di frontiera si addestrano su cluster di decine di migliaia di GPU collegate tra loro, che lavorano ininterrottamente per mesi. I numeri sono da industria pesante: un singolo armadio (rack) di GPU moderne consuma quanto decine di abitazioni, e scalda così tanto che l'aria non basta più a raffreddarlo — il raffreddamento a liquido, direttamente sui chip, è diventato lo standard. I datacenter più recenti si progettano letteralmente attorno alle esigenze dei chip, tanto che il settore li chiama "AI factories". Quando leggi di aziende AI che firmano contratti per centrali elettriche, o di dibattiti sul consumo energetico dell'AI: strato B, ed è tutto vero.

E i costi? L'osservatorio di riferimento si chiama Epoch AI (ce l'hai tra le fonti), e i suoi numeri raccontano una corsa senza precedenti: il calcolo usato per addestrare i modelli di punta cresce di quattro-cinque volte l'anno, e il costo di addestramento raddoppia all'incirca ogni sette-otto mesi. I modelli di frontiera attuali costano centinaia di milioni di dollari di solo addestramento. Questo spiega una cosa importante della struttura del settore: perché a giocare la partita di frontiera sono in cinque o sei al mondo, e tutti o ricchissimi o alleati di qualcuno ricchissimo.

Training contro inference

Ora la distinzione più utile del capitolo: training contro inference. Il training — insegnare al modello — è l'investimento: si fa una volta, costa una fortuna, dura mesi. L'inference — far girare il modello addestrato per rispondere alle domande — è il costo operativo: succede ogni volta che qualcuno, ovunque nel mondo, preme invio. Ogni tua singola domanda a Claude o ChatGPT mette al lavoro GPU vere in un datacenter vero, per qualche secondo. Moltiplica per centinaia di milioni di utenti e capisci perché oggi l'inference assorbe circa due terzi di tutto il calcolo AI mondiale, e perché esiste un'intera disciplina (strato D) dedicata a renderla più efficiente: modelli piccoli, tecniche di compressione come la quantizzazione, chip specializzati. Ed ecco anche perché le API si pagano a token: stai letteralmente comprando secondi di lavoro di quelle macchine.

Chiudi il cerchio e la filiera è completa: il silicio di TSMC diventa GPU di NVIDIA, le GPU riempiono i datacenter, nei datacenter si addestrano i modelli, i modelli servono inference attraverso le API, sulle API si costruiscono i framework e gli agenti, e in cima ci sono le app che usi tu. La ricerca (strato I) osserva e spinge tutto questo; la politica (strato L, prossimo capitolo) prova a regolarlo. D'ora in poi, ogni notizia AI che leggi ha un posto preciso in questa mappa.

L'esperimento del giorno. Apri epoch.ai/trends e guarda il grafico dei costi di training nel tempo. Prima di tutto nota l'asse verticale: è in scala logaritmica — ogni tacca è dieci volte la precedente. Una curva che sale dritta su scala logaritmica è una crescita esplosiva. Poi, per ancorare il tutto: conta quante richieste AI fai in una giornata tipo, e ricordati che ognuna è stata inference in un datacenter da qualche parte nel mondo.

Fonti