Non pensa. Prevede. E questo spiega quasi tutto.

Serie «Capire l’IA», nota 2 di 12. La prima spiegava che cos’è l’intelligenza artificiale. Questa spiega come lavora all’interno la variante che tutti usano.

Giovedì, 16.10, un ufficio a Lugano. Il direttore finanziario di un gruppo alberghiero prepara una risposta per il revisore. Gli serve il termine esatto fissato da una norma, lo chiede all’assistente di IA che l’azienda ha sottoscritto in primavera e riceve, in tre secondi, una risposta impeccabile: il termine, l’articolo che lo stabilisce e una frase fra virgolette tratta dal testo di legge. Copia, incolla, invia.

Alle 17.40 il revisore risponde con una sola riga: quell’articolo non dice questo. Alle 17.55, dopo averlo cercato, il direttore scopre qualcosa di peggio. Quell’articolo non esiste. La citazione, con le sue virgolette e il suo numero, nemmeno. L’assistente non ha mentito, perché mentire richiede di conoscere la verità. Ha fatto esattamente ciò per cui è stato costruito: ha prodotto il testo più probabile. E un articolo con un numero plausibile e una frase solenne è un testo molto probabile.

La scena è immaginaria. Ciò che la provoca accade ogni giorno e nel 2023 è arrivato davanti a un tribunale di New York, sanzione compresa. Glielo racconto più sotto. Prima voglio che capisca, senza una sola formula, che cosa succede dentro la macchina fra il momento in cui preme invio e quello in cui compare la risposta. Sono cinque parole: token, previsione, contesto, allucinazione e temperatura. Con queste capirà il 90 % di ciò che un fornitore le spiega, e individuerà il 90 % di ciò che non le spiega.

Un modello linguistico non cerca la risposta giusta. Cerca la continuazione più probabile. Quasi sempre coincidono. Quasi.

Prima di tutto, i token.

Un modello linguistico non legge lettere né parole. Legge token. Prima che il modello veda qualcosa, il suo testo viene spezzettato in pezzi: a volte una parola intera, a volte mezza, a volte un segno di punteggiatura. Secondo la documentazione di Anthropic, nei modelli Claude precedenti alla versione 4.7 un token equivaleva a circa 3,5 caratteri di inglese, e quelli più recenti spezzettano più fine e producono circa il 30 % di token in più per lo stesso testo. Pensi ai pezzi di un gioco di costruzioni: il modello non vede la casa, vede i pezzi, e lavora pezzo per pezzo.

Questo, che sembra un dettaglio di ingegneria, ha due conseguenze per il suo conto economico. La prima: i fornitori fanno pagare per token, in entrata e in uscita. Ogni documento che il sistema legge e ogni risposta che scrive ha un prezzo proporzionale alla sua lunghezza. La seconda è meno nota. Nel 2023 un gruppo dell’Università di Washington ha confrontato quanti token servono a 22 lingue per dire la stessa cosa con i modelli di OpenAI, e ha trovato una variazione grande: molte lingue hanno bisogno di parecchi token in più dell’inglese per lo stesso contenuto, quindi chi le parla paga di più e, spesso, ottiene risultati peggiori. Se la sua azienda serve in tedesco, francese, italiano e spagnolo, lo stesso assistente le costa in modo diverso in ciascuna lingua. Lo vedremo con le cifre nella nota sui costi.

L’unica cosa che fa: il token successivo.

Ecco il segreto, ed è di una semplicità deludente. Durante la prima fase della sua costruzione, il preaddestramento, il modello riceve una quantità enorme di testo e gli si chiede una sola cosa, migliaia di miliardi di volte: data questa sequenza di token, qual è il successivo? Sbaglia, si corregge, sbaglia di meno. Nient’altro. Non c’è una banca dati di fatti, non ci sono regole grammaticali scritte, non c’è una lista di risposte corrette.

La cosa sorprendente è ciò che serve per prevedere bene. Per completare «la capitale della Svizzera è» bisogna aver assorbito geografia. Per completare un contratto bisogna aver assorbito come si redigono. Per completare una partita di scacchi annotata bisogna aver assorbito gli scacchi. Prevedere il token successivo, su scala sufficiente, costringe a comprimere dentro il modello una parte molto grande di ciò che l’umanità ha scritto. Per questo sembra sapere. E, in un senso utile, sa.

Dopo il preaddestramento viene una seconda fase, la messa a punto. Gli si insegna con esempi a comportarsi come un assistente e lo si corregge con valutazioni umane: alcune persone confrontano due risposte e indicano quale preferiscono, e il modello impara a produrre più risposte del tipo preferito. Quella fase è ciò che trasforma un predittore di testo in qualcosa con cui si può conversare. Ed è anche, come vedrà fra un attimo, quella che gli insegna alcune cattive abitudini.

Pensi al gioco di completare le frasi che fanno i bambini. Se la frase è «il gatto è salito sul», quasi tutti dicono «tetto». Non perché ci sia un gatto o un tetto, ma perché è ciò che di solito segue. Un modello linguistico è quel gioco portato a una scala in cui le frasi includono la giurisprudenza svizzera, i manuali di cardiologia e le e-mail di reclamo. Produce ciò che di solito segue. Conservi questa frase: è la chiave di tutto il resto.

La sua memoria di lavoro ha una dimensione.

La seconda cosa da capire è che cosa vede il modello quando risponde. Non vede la sua azienda, né la conversazione di ieri, né i file del suo server. Vede esattamente ciò che c’è in quella che si chiama finestra di contesto: la sua domanda, le istruzioni date da chi lo ha configurato, i documenti che qualcuno ha incollato, i turni precedenti di questa conversazione e, man mano che la scrive, la propria risposta. Tutto il resto, per il modello, non esiste.

Quella finestra è grande, ma ha un limite. Secondo la documentazione di Anthropic, i modelli Claude attuali accettano fino a un milione di token, che è molto testo. La stessa documentazione avverte di qualcosa che quasi nessuno racconta in una dimostrazione: man mano che la finestra si riempie, la precisione e la capacità di ricordare peggiorano. Più contesto non è automaticamente meglio. Nel 2023 un gruppo di Stanford lo ha misurato in dettaglio in un lavoro intitolato «Lost in the Middle»: i modelli sfruttano meglio le informazioni che stanno all’inizio o alla fine di ciò che leggono, e peggio quelle che restano in mezzo, persino quelli progettati per testi lunghi.

L’immagine che uso è la scrivania dell’ufficio contro l’archivio in cantina. Il modello lavora solo con ciò che sta sulla scrivania. Quello che ha imparato nell’addestramento è una specie di cultura generale molto ampia, ma i suoi contratti, le sue tariffe, la sua politica di cancellazione e il nome del suo cliente di Zurigo sono in cantina. Se nessuno li porta sulla scrivania, il modello risponderà con la cultura generale. E la cultura generale, su una politica di cancellazione, è un’invenzione educata. La tecnica per portare sulla scrivania i documenti giusti a ogni domanda esiste, si chiama recupero, e le dedico la nota sugli agenti.

Perché si inventa le cose.

Torniamo al direttore finanziario. Perché l’assistente gli ha dato un articolo che non esiste, invece di dire «non lo so»? Per anni la risposta è stata un’alzata di spalle. Nel settembre 2025 quattro ricercatori, tre dei quali di OpenAI, hanno pubblicato un lavoro con un titolo senza giri di parole, «Why Language Models Hallucinate», e una spiegazione che qualsiasi candidato a un concorso capisce al volo.

La loro tesi è che i modelli si inventano le cose perché il modo di addestrarli e di valutarli premia l’indovinare più dell’ammettere il dubbio. Quasi tutti i test con cui si misurano i modelli assegnano punteggi come un esame a crocette: la risposta corretta vale, quella sbagliata e il «non lo so» valgono lo stesso, zero. Un sistema ottimizzato per prendere un buon voto in quegli esami impara ciò che impara qualsiasi candidato razionale: non lasciare mai una domanda in bianco. Gli autori lo dicono con una frase da ricordare: i modelli sono «ottimizzati per essere bravi a sostenere esami». E propongono la soluzione ovvia, che i test penalizzino l’errore sicuro più dell’astensione, perché dire «non lo so» torni a convenire.

Osservi che cosa implica questo per lei. Le invenzioni, che il settore chiama allucinazioni, non sono un difetto che sparirà con la prossima versione. Sono una conseguenza di come si fabbrica il prodotto, e si riducono con la progettazione: dandogli i documenti giusti, permettendogli di astenersi, verificando ciò che dice. Un assistente che non risponde mai «non lo so» non è più intelligente. È configurato peggio.

Il caso che ho annunciato all’inizio è Mata contro Avianca. Nel 2023 due avvocati di New York hanno depositato davanti a un tribunale federale una memoria con varie sentenze a sostegno della loro posizione. Le aveva cercate uno di loro con ChatGPT. Nessuna esisteva: nomi dei casi, numeri di fascicolo e citazioni fra virgolette, tutto fabbricato con la stessa scioltezza del vero. Il 22 giugno 2023 il giudice P. Kevin Castel li ha sanzionati con 5000 dollari. Non per aver usato lo strumento, ma per non aver verificato. È l’intera lezione in una frase: la responsabilità non si delega al modello. Resta a chi firma.

La stessa domanda, due risposte.

C’è un dettaglio che sconcerta molte persone la prima volta: fa la stessa domanda due volte e riceve due risposte diverse. Non è un errore. Quando il modello sceglie il token successivo, non prende sempre il più probabile; con un parametro chiamato temperatura si regola quanto può esplorare opzioni meno probabili, e questo gli dà varietà e, nei testi creativi, grazia. Con la temperatura al minimo le risposte si somigliano molto di più, ma la stessa documentazione di Anthropic avverte che nemmeno così sono del tutto identiche da una chiamata all’altra.

Per un’azienda questo ha una conseguenza pratica che di solito si trascura al momento dell’acquisto: non si può valutare un sistema di IA con una dimostrazione. Un piatto che riesce bene un giorno non dice nulla del ristorante. Bisogna fargli le stesse cinquanta domande molte volte, contare quante ne azzecca e guardare come sbaglia quando sbaglia. Quella lista di domande con le relative risposte corrette la chiamo l’insieme d’oro di un’azienda, ed è il pezzo più prezioso di qualsiasi progetto. Ci tornerò nella nota sull’integrazione.

Le dice quello che vuole sentire.

Resta una cattiva abitudine, ed è la più pericolosa per chi dirige. Nell’ottobre 2023 Anthropic ha pubblicato uno studio su ciò che ha chiamato adulazione: la tendenza degli assistenti a dire quello che l’utente vuole sentire invece di ciò che è vero. Hanno provato cinque assistenti di prima fascia su quattro tipi di compito e tutti e cinque l’hanno mostrata. La spiegazione sta nella fase di messa a punto che ho descritto prima. Quando le persone confrontano risposte, preferiscono più spesso quelle che coincidono con la loro opinione, e a volte scelgono una risposta adulatoria ben scritta invece di una corretta. Il modello impara esattamente questo.

Tradotto nel suo ufficio: se chiede all’assistente se il suo piano è buono, le dirà di sì con argomenti eleganti. Se gli chiede se è cattivo, pure. Un modello linguistico è un pessimo consigliere quando gli si chiede conferma e uno ragionevole quando gli si chiede il contrario. Gli chieda sempre l’argomento contrario. E non gli affidi mai una decisione che dipenda dal fatto che la contraddica, perché è stato addestrato a non farlo.

Che cosa cambia questo nella sua azienda.

Cinque parole, cinque conseguenze. Le riassumo come una lista di principi, perché è così che le uso nei progetti.

• Mai a memoria. Un sistema che risponde a clienti o dipendenti deve leggere i suoi documenti approvati a ogni domanda e rispondere solo con quelli. Ciò che sta in cantina non conta.
• Permesso di non sapere. Il sistema deve essere configurato per dire che non ha l’informazione e passare a una persona. Un assistente che risponde sempre è una fabbrica di articoli che non esistono.
• Verifica proporzionale al rischio. Una risposta sugli orari non ha bisogno di revisione. Una su un termine legale, un prezzo o una diagnosi sì, e da parte di qualcuno con nome e cognome.
• Misurare, non guardare. Cinquanta domande con risposta nota, ripetute, prima di firmare e ogni volta che il fornitore cambia versione.
• Il contrario per sistema. Dove il modello aiuta a decidere, gli si chiede sempre l’argomento contrario, e lo legge una persona che può dire di no.
• Chi firma risponde. Lo strumento non ha responsabilità. La sua azienda sì, per ogni risposta che dà a suo nome.

1. Oggi, 20 minuti

   Faccia la prova dei cinque dati

   Chieda a un assistente qualsiasi cinque dati concreti della sua azienda: una tariffa, un termine, un nome, un indirizzo, una condizione. Conti quanti ne inventa con sicurezza.

2. Oggi, altri 5 minuti

   Chieda la fonte

   A ogni risposta, chieda da dove l’ha presa. Osservi che anche la fonte può essere falsa, e con quale naturalezza.

3. Questa settimana

   Ripeta una domanda tre volte

   La stessa, in tre conversazioni nuove. Confronti. Ciò che varia è ciò di cui non potrà mai fidarsi senza una verifica.

4. Prima di decidere qualsiasi cosa

   Chieda l’argomento contrario

   Sulla sua prossima decisione importante. Non per obbedirgli, ma per vedere che cosa omette.

Come la imposto io.

Nelle automazioni che costruisco, il modello non risponde mai a memoria. Legge i documenti che la direzione ha approvato, cita da dove prende ogni dato e, se non lo trova, lo dice e avvisa una persona. Le cinquanta domande d’oro si scrivono prima della prima riga di codice e si ripassano ogni volta che cambia qualcosa. Non è sfiducia verso lo strumento. È sapere che cos’è.

Una prova per oggi, con qualsiasi assistente usi la Sua azienda. Gli faccia una domanda di cui conosce molto bene la risposta, sul Suo settore, la Sua città o la Sua attività, e gli chieda di citare da dove prende ogni dato. Poi gli faccia la stessa domanda un’altra volta, in una conversazione nuova.

Confronti le due risposte. Se coincidono, si chieda se coincidono perché sono vere o perché sono probabili. Se non coincidono, si chieda quante volte il Suo team ha copiato la prima senza mai chiedere la seconda.

Prossima nota: IA, automazione e software sono tre cose diverse che si vendono insieme. Come distinguerle in una riunione di trenta minuti, e perché la parola «agente» è diventata la più consumata del catalogo.