Ollama: far girare un'AI sul tuo computer, gratis e senza internet

10 luglio 2026 · Lettura: 7 min

C'è un momento, nel percorso di chi impara l'AI, che cambia la percezione di tutto: la prima volta che un modello linguistico gira sul tuo computer. Senza internet, senza abbonamento, senza che una sola parola esca dalla tua macchina. Il modello smette di essere un servizio misterioso nel cloud e diventa un programma come gli altri — un file di qualche gigabyte che puoi scaricare, avviare, spegnere.

Quel momento costa circa dieci minuti e si chiama Ollama. Questa guida copre tutto: perché farlo, che computer serve, l'installazione passo passo su Windows e Mac, quale modello scegliere e — con onestà — cosa non aspettarsi.

Perché far girare un'AI in locale

Tre ragioni concrete, oltre alla soddisfazione.

Privacy totale. Quello che scrivi a un modello locale non lascia il tuo computer. Puoi fargli leggere il contratto, la cartella clinica, il bilancio — documenti che non caricheresti mai su un servizio online. Per professionisti con obblighi di riservatezza è spesso l'unico modo di usare un LLM su materiale sensibile.

Costo zero. Nessun abbonamento, nessun limite di messaggi, nessun contatore di token. Il costo l'hai già pagato: è il tuo hardware e la corrente.

Capisci l'AI a un livello che leggendo non raggiungi. I gigabyte che pesa un modello, la RAM che occupa, il computer che scalda, la velocità che cambia con la taglia: cose che negli articoli restano astratte diventano fisiche. Lo strato "inference" della filiera AI — far girare i modelli — si impara facendolo.

Requisiti hardware realistici

La regola pratica: serve un computer degli ultimi 4-5 anni con almeno 8 GB di RAM; con 16 GB si lavora comodi, con 32 si aprono i modelli medi.

I Mac con chip Apple Silicon (M1 in poi) sono l'ideale in rapporto qualità/semplicità: la memoria unificata permette al modello di usare l'accelerazione grafica senza configurare nulla. Su Windows e Linux tutto funziona; una GPU NVIDIA con 8+ GB di VRAM accelera molto, ma non è obbligatoria — senza GPU dedicata i modelli piccoli girano sulla CPU, solo più lentamente.

Orientativamente: un modello da 3 miliardi di parametri occupa ~2 GB e gira quasi ovunque; uno da 7-8 miliardi occupa ~5 GB e vuole 16 GB di RAM per non soffrire; oltre i 30 miliardi si entra in territorio da workstation.

Un test rapido prima di iniziare: guarda quanta RAM ha il tuo computer (Informazioni di sistema su Windows, "Informazioni su questo Mac" su macOS) e sottrai 4-6 GB per il sistema operativo e il browser. Quello che resta è lo spazio reale per il modello: con 8 GB totali punta alle taglie da 1-3 miliardi, con 16 GB puoi salire alle 7-8, e la regola d'oro è che un modello che sta comodo in memoria e risponde fluido vale più di uno più grande che arranca.

Installazione passo passo

Su Mac

1. Vai su ollama.com e scarica l'app per macOS; trascinala nelle Applicazioni e aprila (compare un'icona nella barra dei menu).
2. Apri il Terminale (Cmd+Spazio, scrivi "terminale") e digita: ollama run llama3.2
3. La prima volta scarica il modello (~2 GB, qualche minuto a seconda della connessione). Poi compare il prompt: scrivi, e il modello risponde. Stai chattando con un LLM che vive nel tuo computer.
4. Per uscire scrivi /bye.

Su Windows

1. Da ollama.com scarica l'installer per Windows ed eseguilo, come qualsiasi altra applicazione.
2. Apri il Prompt dei comandi o PowerShell (tasto Windows, scrivi "cmd") e digita: ollama run llama3.2
3. Attendi il download del modello, poi scrivi direttamente nella finestra. Tutto identico al Mac, /bye per uscire.

Sì, si usa il terminale: fa parte dell'esperienza, e quei due comandi sono tutto ciò che serve. Se preferisci una finestra di chat, l'app desktop di Ollama la include, e progetti come Open WebUI aggiungono un'interfaccia completa nel browser — ma per imparare, il terminale basta e avanza.

Quale modello scegliere

Su ollama.com/library c'è il catalogo. Per iniziare:

• llama3.2 (Meta, 3 miliardi di parametri): il punto di partenza — leggero, veloce, gira quasi ovunque.
• gemma3 (Google) e qwen3 (Alibaba): famiglie recenti con taglie diverse; qwen è tra i migliori sul multilingue, italiano incluso.
• mistral (francese): storicamente solido nella fascia 7B.

La sigla da capire è la taglia: 3b, 7b, 27b indicano i miliardi di parametri. Più parametri = più capacità, più RAM richiesta, meno velocità. Il modo giusto di scegliere: parti dal piccolo, e sali finché l'hardware regge.

I limiti reali (leggere prima di entusiasmarsi)

Un modello da 3-8 miliardi di parametri non è Claude o ChatGPT: quelli ne hanno centinaia. Le differenze pratiche che noterai:

• Allucina di più. La regola "verifica i fatti specifici" qui vale doppio.
• L'italiano è più fragile. I modelli piccoli sono addestrati soprattutto in inglese: la qualità cala nelle lingue minori, e a volte scivolano in inglese da soli.
• Finestra di contesto più corta. Documenti lunghi vanno spezzati.
• Niente ricerca web, niente strumenti (nella configurazione base): il modello sa solo ciò che era nei suoi dati di addestramento.

Il modello locale non sostituisce il tuo assistente quotidiano. Ti dà un'opzione privacy per i casi in cui serve davvero, e una comprensione del funzionamento che nessun servizio cloud ti darà mai.

Cosa osservare mentre lo usi

È qui che l'esercizio diventa lezione. La taglia conta: prova lo stesso compito su un modello da 3 miliardi e uno da 7-8 — la differenza di qualità è evidente, quella di velocità pure; è il compromesso capacità/risorse su cui si regge l'intera industria, in miniatura sul tuo laptop. Il confronto con i grandi: stessa domanda al modello locale e a Claude o ChatGPT — ora sai esattamente cosa compra un abbonamento. Il computer che soffia: ventole, batteria, memoria; l'inference costa energia e calore, e moltiplicandolo per miliardi di richieste al giorno capisci perché si costruiscono data center dedicati.

Domande rapide

Posso usarlo davvero offline? Sì: dopo il download del modello, Ollama funziona senza connessione. È la prova fisica che il modello è un file sul tuo disco, non un servizio remoto.

Quanto spazio occupa? L'app pochi centinaia di MB; ogni modello da ~2 GB (taglie piccole) a decine di GB. I modelli si rimuovono con ollama rm nome-modello.

Rallenta il computer? Solo mentre genera: durante la risposta usa CPU/GPU e RAM al massimo, a riposo non consuma nulla. Se il sistema soffre, scendi di taglia.

È legale? E i dati? I modelli su ollama.com hanno licenze aperte che ne permettono l'uso personale e in molti casi commerciale (controlla la licenza del singolo modello). I tuoi prompt non vengono inviati da nessuna parte: non c'è telemetria sulle conversazioni.

Posso usarlo dalle mie applicazioni? Sì: Ollama espone un'API locale compatibile con il formato OpenAI su localhost:11434 — il che lo rende perfetto per gli esercizi del Livello 2, dove le chiamate API si imparano senza spendere un euro.

Prova subito

Installa Ollama, scarica llama3.2 e chiedigli tre cose: una traduzione, un fatto storico oscuro (poi verificalo!), un riassunto di un testo che incolli. Annota cosa fa bene e dove crolla. Congratulazioni: hai appena fatto la tua prima valutazione di un modello — e hai un'AI che funziona anche in aereo.

Per il contesto completo sulla filiera (chi produce i chip, chi i modelli, chi paga i data center) c'è la dispensa del Livello 0; per usare i modelli via codice, il Livello 2 del percorso.