Cos'è un modello linguistico e perché a volte inventa le risposte
ChatGPT, Gemini e Claude sono basati su modelli linguistici. Ecco come funzionano davvero, spiegato senza formule, e perché ogni tanto sbagliano con sicurezza.
- Livello
- principiante
- Tempo
- 5 minuti
- Cosa serve
- Niente, solo curiosità
Quando scrivi una domanda a un assistente come ChatGPT, Gemini o Claude, dall’altra parte non c’è un motore di ricerca e nemmeno un’enciclopedia. C’è un modello linguistico di grandi dimensioni, in inglese Large Language Model o LLM. Cioè un programma che, leggendo una quantità enorme di testo, ha imparato a prevedere quali frammenti di parola hanno più probabilità di seguire quelli che ha davanti.
Modello linguistico (in inglese language model; quando è grande, Large Language Model, da cui la sigla LLM): un programma che ha imparato a prevedere quali frammenti di testo hanno più probabilità di venire dopo quelli precedenti. Token (in italiano "gettone"): il frammento di parola su cui il modello lavora, spesso poche lettere. Allucinazione (in inglese hallucination): una risposta inventata ma scritta con la stessa sicurezza di una vera.
Un gioco di completamento
Il principio è quello del suggerimento automatico della tastiera del telefono, portato a una scala gigantesca. Il modello riceve una sequenza di parole, o meglio di frammenti di parola, chiamati token, e calcola le probabilità di ciascun token successivo. Poi ne pesca uno tra i più probabili, non sempre lo stesso, lo aggiunge alla sequenza e ricomincia. Ed è per questo che la stessa domanda, ripetuta, ti dà risposte un po’ diverse.
Una risposta di dieci righe è il risultato di centinaia di queste previsioni in cascata.
Quello che rende i modelli moderni così capaci è l’architettura Transformer, presentata nel 2017 da un gruppo di ricercatori di Google. Il suo meccanismo chiave, l’attenzione, permette al modello di pesare quali parole del testo precedente contano di più per decidere la parola successiva. È così che riesce a mantenere il filo di un discorso lungo, a rispettare la grammatica e a cogliere il contesto.
Dove impara
L’addestramento avviene su miliardi di pagine: libri, siti web, articoli, codice. Il modello non tiene una copia del testo da consultare, regola miliardi di parametri interni finché le sue previsioni diventano accurate. Qualche frase molto ripetuta finisce comunque per restargli impressa quasi alla lettera, però è l’eccezione, non il modo normale in cui lavora.
Dopo questa fase, gli sviluppatori lo affinano con esempi di conversazioni e con il giudizio di valutatori umani, per renderlo utile e per insegnargli a rifiutare richieste pericolose.
Perché “allucina”
Un modello linguistico sa moltissime cose, ma non le tiene in uno schedario che può aprire e controllare. Sono impastate nei suoi parametri insieme a tutto il resto, e lui non ha modo di distinguere quello che sa davvero da quello che sta solo ricostruendo.
Chiedigli la data di nascita di una persona poco nota e una data plausibile la produrrà comunque, perché “una data” è ciò che statisticamente segue quel tipo di domanda. La risposta arriva scritta con la stessa sicurezza di quelle corrette, e però è inventata. Il fenomeno si chiama allucinazione, ed è il limite più importante da tenere a mente.
Per ridurre il problema, molti assistenti oggi cercano sul web o in documenti forniti dall’utente prima di rispondere, e citano le fonti. Resta una regola che io applico sempre, anche quando le fonti ci sono: per numeri, date, nomi e citazioni, controlla su una fonte indipendente.
Cosa portarsi a casa
Un LLM è uno strumento straordinario per scrivere, riassumere, tradurre, programmare e ragionare su un testo che gli fornisci. Come oracolo di fatti puntuali è meno affidabile.
Quindi, quando gli fai una domanda, chiediti prima quale dei due lavori gli stai dando. Se è il secondo, tieni aperta un’altra scheda del browser per il controllo.