Come funziona davvero un modello linguistico

Nelle guide precedenti hai imparato a scrivere prompt, a studiare con l'AI e a controllare le fonti che ti propone. Qui facciamo un passo indietro e apriamo il cofano: come nasce una risposta? Capire il meccanismo ti spiega perché l'AI è bravissima in certe cose, perché sbaglia in altre e come accorgertene prima di fidarti.

I token: il modello non legge parole

Un modello linguistico (in inglese large language model, LLM) è il programma che sta dentro assistenti come ChatGPT, Gemini, Claude o Copilot. Il testo, per lui, non è fatto di lettere o parole, ma di token: pezzi di testo che possono essere una parola intera, una parte di parola, un segno di punteggiatura o uno spazio.

Una parola comune può essere un solo token, mentre una parola lunga o rara viene spezzata in più pezzi. Ogni token, per il modello, è un numero. Tutto il resto, dal tuo prompt alla risposta, è una lunga fila di numeri.

Il cuore di tutto: indovinare il pezzo successivo

Il compito di base di un modello linguistico è uno solo: dato un testo, prevedere quale token viene dopo. Se legge "La capitale d'Italia è", calcola quali continuazioni sono più probabili e ne sceglie una: "Roma". Poi aggiunge quel token al testo e ripete il calcolo per il successivo. E così via, un token alla volta, finché la risposta è completa.

Detto così sembra poco. Ma per prevedere bene il pezzo successivo di qualsiasi testo, dalle ricette alle dimostrazioni di geometria, il modello ha dovuto imparare moltissimo su grammatica, significati, relazioni tra concetti e modi di ragionare. È per questo che le risposte sembrano intelligenti.

La differenza con un motore di ricerca è fondamentale: il modello non va a pescare una frase in un archivio. Ricostruisce ogni volta una risposta che "suona giusta" in base a ciò che ha imparato.

Come impara: addestramento e dati

L'addestramento è la fase in cui il modello impara. Avviene in due momenti principali:

1. Pre-addestramento: il modello legge un'enorme quantità di testi (pagine web, libri, articoli, codice) e si allena a indovinare il pezzo successivo, correggendosi miliardi di volte. Alla fine ha "assorbito" schemi del linguaggio e molte informazioni, ma non sa ancora comportarsi come un assistente.
2. Rifinitura: il modello viene allenato su esempi di domande e risposte e sulle valutazioni di persone che indicano quali risposte sono migliori, più utili e più sicure. È qui che impara a seguire le istruzioni, a rifiutare richieste pericolose e a usare un certo tono.

Due conseguenze importanti. Primo, il modello ha una data di aggiornamento: di ciò che è successo dopo la fine dei suoi dati non sa nulla, a meno di usare la ricerca web. Secondo, quello che sa dipende da quali testi ha letto: se un argomento era poco presente o raccontato male, le risposte ne risentono.

Perché "allucina"

Si chiama allucinazione quando il modello inventa con sicurezza un fatto, una data, una citazione o un libro che non esiste. Non è un guasto occasionale: è un effetto diretto del meccanismo. Il modello produce il testo più plausibile, e un titolo di libro inventato può essere plausibilissimo.

Le allucinazioni sono più probabili quando:

• chiedi dettagli precisi su argomenti rari o locali (la storia del tuo paese, un autore poco noto);
• chiedi numeri, date, citazioni testuali e riferimenti bibliografici;
• la domanda contiene un presupposto sbagliato ("Perché Leopardi vinse il Nobel?") e il modello lo asseconda;
• chiedi informazioni recenti a un modello senza ricerca web.

Prima di rispondere, dimmi quanto sei sicuro di ogni affermazione
(alta, media, bassa) e segnala cosa dovrei verificare su una fonte.
Se la domanda contiene un errore, fammelo notare.

Finestra di contesto e temperatura

La finestra di contesto è la quantità di testo che il modello può tenere presente in un colpo solo: le istruzioni del servizio, la conversazione, i documenti che carichi e la risposta che sta scrivendo. Si misura in token. È la sua memoria di lavoro: ciò che sta fuori, per lui, non esiste.

• Nelle chat molto lunghe le prime parti possono essere riassunte o perse: se l'AI "dimentica" una tua richiesta, ripetila o apri una nuova chat con un riassunto.
• Se carichi un documento lungo, il modello può dare meno peso ad alcune parti. Chiedi di citare il punto preciso da cui prende un'informazione.

La temperatura è un'impostazione che regola quanto il modello rischia nella scelta del token successivo. Con temperatura bassa sceglie quasi sempre le opzioni più probabili: risposte più prevedibili e ripetitive. Con temperatura alta pesca più spesso opzioni meno probabili: risposte più varie e creative, ma anche più strane o sbagliate. Nelle app di chat di solito non la vedi, perché è già regolata dal servizio; la trovi negli strumenti per sviluppatori.

Ricerca web e strumenti

Molti assistenti oggi non si limitano a prevedere testo: possono usare strumenti. Il modello decide di cercare sul web, leggere un file, eseguire un calcolo con un programma o generare un'immagine, e poi usa il risultato per scrivere la risposta.

Questo aiuta molto: la ricerca web porta informazioni recenti e link da controllare, la calcolatrice evita errori nei conti. Ma il modello resta un modello: può scegliere fonti deboli, riassumere male una pagina o attribuirle frasi che non contiene, come hai visto nella guida sulle ricerche.

• Risposta senza ricerca web: buona per spiegazioni generali, rischiosa per dettagli e fatti recenti. Verifica tutto ciò che è preciso.
• Risposta con ricerca web: più aggiornata e con i link. Aprili e controlla che dicano davvero quella cosa.
• Calcoli e dati: più affidabili se l'assistente usa uno strumento di calcolo. Fai comunque una stima a mente per capire se il risultato ha senso.

Bias, limiti ed energia

Un bias è una distorsione sistematica, un "pregiudizio" del modello. Se nei testi di addestramento certi gruppi sono descritti con stereotipi, o certe lingue e culture sono poco rappresentate, il modello tende a riprodurli. Puoi accorgertene facendo una prova:

Descrivi in tre righe una persona che fa l'ingegnere.
Descrivi in tre righe una persona che fa l'infermiere.

Guarda nomi, genere, provenienza che il modello sceglie quando non glieli indichi. Le aziende lavorano per ridurre questi effetti, ma non spariscono del tutto.

Ci sono poi limiti da tenere a mente: il modello non ha opinioni proprie anche quando sembra averle, tende a darti ragione se insisti, e non conosce la tua situazione se non gliela descrivi.

Infine, l'energia. Addestrare e far funzionare questi modelli richiede grandi centri di calcolo, i data center, che consumano elettricità e spesso acqua per il raffreddamento. Ogni singola risposta ha un costo energetico, che cresce con risposte lunghe, immagini e video. Le stime precise variano molto e sono discusse; il punto pratico è semplice: usa l'AI quando serve davvero, non per cose che una ricerca normale o un tuo minuto di ragionamento risolvono meglio.

Checklist: usare l'AI sapendo come funziona

• Uso l'AI per capire, riformulare, esercitarmi, non come archivio di fatti.
• Per fatti recenti uso un assistente con ricerca web e apro i link.
• Numeri, date, citazioni e titoli li verifico sempre su una fonte.
• Se la risposta cambia ogni volta che rigenero, la considero incerta.
• Nelle chat lunghe riassumo e riparto invece di accumulare messaggi.
• Faccio attenzione agli stereotipi nelle risposte e li segnalo.
• Non scrivo dati personali miei o di altri.