Non ogni affermazione sull'IA richiede una citazione, ma ogni affermazione richiede una base

Perché “nessuna citazione” ha smesso di essere un test sufficiente

Il problema della fiducia non è astratto. È misurabile e sta peggiorando in modi specifici e documentati.

Uno studio del 2025 sulle referenze generate dall'AI ha rilevato che il 19,9% era completamente inventato e un ulteriore 45,4% presentava gravi errori bibliografici – il che significa che quasi due terzi delle citazioni prodotte da un'AI in quello studio erano inventate o errate in modo sostanziale. Separatamente, il monitoraggio delle citazioni inventate nella ricerca pubblicata mostra un aumento di circa 12 volte tra il 2023 e il 2025, con oltre 4.000 articoli biomedici che hanno citato ricerche inesistenti.

Il sistema legale sta già assorbendo il costo di tutto ciò. Nell'anno fino a febbraio 2026, 66 casi legali negli Stati Uniti sono stati sanzionati specificamente per errori generati dall'AI, e a giugno 2026 quella cifra era salita a 1.598 procedimenti giudiziari in tutto il mondo che coinvolgevano contenuti AI con citazioni inventate – con oltre 145.000 dollari in sanzioni per documenti AI nei tribunali statunitensi solo nel primo trimestre del 2026.

Tutto questo non è un motivo per diffidare completamente dell'AI. È un motivo per smettere di usare “ha una citazione” come unico test, perché quel test è troppo facile da superare senza essere effettivamente vero, e – altrettanto importante – troppo facile da fallire pur essendo effettivamente corretto.

C'è una vera complicazione anche dall'altra parte, che vale la pena di esporre onestamente piuttosto che sorvolare: uno studio di Yale ha scoperto che le persone che usavano chatbot AI per verificare le notizie hanno visto un calo di 15 punti nella loro capacità non assistita di rilevare la disinformazione dopo appena quattro settimane. Esternalizzare la verifica non è gratis. Può renderti meno capace di farlo da solo. Questa è una vera ragione per volere un sistema che mostri il suo lavoro piuttosto che uno che ti dia solo una risposta dall'aspetto pulito.

Su cosa può effettivamente basarsi un'affermazione

Se una citazione da sola non è il test giusto, la domanda più utile è: che tipo di prova ha prodotto questa affermazione? In pratica, ci sono sei risposte reali e distinte.

1. Ricerca esterna

Un'affermazione basata su una ricerca o consultazione dal vivo contro fonti reali e attuali – il tipo di prova a cui ci si aspetterebbe che una citazione punti, e dove una sua mancanza è un vero campanello d'allarme.

2. Informazioni fornite dall'utente

Un'affermazione costruita su qualcosa che hai detto direttamente al sistema – i fatti del tuo brand, la tua conoscenza del mercato, una correzione che hai fornito. Questa non ha bisogno di una citazione esterna. La citazione sei tu.

3. Prove riportate da un passaggio precedente

In un pezzo di ricerca a più fasi, una fase successiva può correttamente basarsi su prove che una fase precedente ha già stabilito e verificato, anziché ricercarle da zero. La citazione si trova a monte, non su ogni frase a valle che la utilizza.

4. Inferenza analitica, chiaramente etichettata come inferenza

A volte la risposta onesta è “sulla base delle prove raccolte, questa è l'interpretazione più ragionevole” – non un fatto scoperto, ma un giudizio. Questo è legittimo, a patto che sia etichettato come inferenza e non mascherato da citazione.

5. Calcolo deterministico

Alcune affermazioni sono solo aritmetica. Se gli input sono corretti, un calcolo fisso e riproducibile non ha bisogno di una citazione più di quanto ne abbia una formula di foglio di calcolo – la “prova” è il fatto che gli stessi input producono sempre lo stesso output.

6. Correzione umana, applicata a posteriori

Questo è quello che la maggior parte della copertura sulla fiducia nell'AI salta completamente: quando una persona con conoscenze reali e di prima mano corregge un'affermazione generata dall'AI, quella correzione è essa stessa una forma di prova – probabilmente il tipo più forte disponibile, perché proviene da qualcuno che era effettivamente presente. Consideriamo questa una vera sesta categoria a sé stante, non solo un passaggio di controllo qualità aggiunto alle altre cinque. Questa è una vera sintesi da parte nostra, non un termine industriale stabilito – vale la pena dirlo chiaramente piuttosto che mascherarlo come più di quanto non sia.

Sei risposte reali. Un unico test – “c'è una citazione” – non avrebbe mai potuto coprirle tutte e sei.

La distinzione che quasi nessuno fa: un gap contro un artefatto

Ecco l'angolazione genuinamente inesplorata, e conta più di quanto possa sembrare.

Quando un sistema AI segnala qualcosa come incerto, quel segnale può significare una di due cose molto diverse:

Un vero gap probatorio — il soggetto non poteva effettivamente essere verificato. Nessuno ha pubblicato il numero. L'informazione non è pubblica. L'incertezza è reale e riguarda il mondo.

Un artefatto linguistico — la scoperta sottostante va bene, ma è stata segnalata come negativa o incerta puramente per come è stata formulata, non per quello che dice realmente. L'incertezza riguarda la frase, non il soggetto.

Questi appaiono identici sulla pagina. Entrambi si mostrano come una bandiera gialla accanto a un'affermazione. Ma richiedono risposte completamente diverse. Un vero gap richiede più ricerca. Un artefatto linguistico richiede una formulazione migliore — e trattarlo come un gap di ricerca fa perdere tempo a inseguire prove per qualcosa che non è mai stato in dubbio.

Questa distinzione appare a malapena nella copertura esistente della fiducia e delle allucinazioni dell'AI. La maggior parte si ferma a “l'AI può sbagliare, verifica le affermazioni importanti” — vero, ma non attuabile. Sapere che tipo di segnale stai guardando è ciò che ti dice effettivamente cosa fare dopo.

Perché le domande più ristrette battono quelle più ampie

C'è un secondo schema che vale la pena nominare, e va nella direzione opposta a ciò che la maggior parte delle persone presume debba essere una ricerca AI “più approfondita”.

L'istinto è quello di porre una grande domanda aperta e aspettarsi una risposta esaustiva. In pratica, l'opposto tende a funzionare meglio: scomporre una domanda ampia in diverse domande ristrette, specifiche e delimitate — e porle separatamente — produce prove più facili da controllare, più facili da fidare e spesso più direttamente utili di una risposta ampia che cerca di coprire tutto in una volta.

Parte del perché: una domanda ristretta dà a un sistema meno spazio per confondere cose che dovrebbero rimanere separate. Ti offre anche, come lettore, un'affermazione molto più facile da verificare — una risposta specifica a una domanda specifica è qualcosa che puoi controllare rispetto a una fonte specifica. Un singolo paragrafo che cerca di rispondere a cinque cose contemporaneamente di solito non può essere controllato rispetto a nulla in particolare.

Meno, mirato più precisamente, tende a battere di più.

Cosa è successo nella ricerca di mercato reale

Non abbiamo accettato nulla di tutto questo per fede. Abbiamo condotto ricerche reali su come le persone descrivono attualmente la loro frustrazione con gli strumenti AI che fanno affermazioni su prove e fiducia – il linguaggio ricorrente a cui le persone si affidano effettivamente, non un'ipotesi al riguardo.

Tre frasi sono emerse abbastanza spesso, indipendentemente, da meritare di essere ripetute qui, senza collegarle a un prodotto o un'azienda specifica, perché il modello è il punto, non un singolo fornitore:

• Un percepito “tasso di stronzate del 5%” – la sensazione che anche uno strumento AI per lo più affidabile abbia una piccola ma reale percentuale di output decisamente sbagliati, e che questa percentuale raramente si riduca a zero, per quanto buono diventi lo strumento.
• L'“illusione di trasparenza” – dove uno strumento mostra visibilmente il suo ragionamento o le sue fonti, il che appare affidabile, senza che quello strato visibile sia effettivamente verificabile o corretto.
• L'“onere della validazione” – il costo silenzioso e reale che il lavoro assistito dall'AI non elimina la necessità di controllare le cose, ma sposta il controllo sull'essere umano, più tardi, spesso senza avvertire che è ancora richiesto.

La stessa ricerca ha anche rivelato ciò che le persone vogliono invece, indipendentemente e ripetutamente, senza essere spinte verso una risposta particolare: una capacità di citazione coerente e verificabile; una spiegazione visibile di come l'AI ha raggiunto la sua conclusione piuttosto che solo la conclusione stessa; e un verdetto sintetizzato e attuabile in anticipo, con il percorso completo delle prove disponibile sotto per chiunque voglia verificare il nostro lavoro.

Non ci stiamo attribuendo il merito di aver identificato quella domanda – la ricerca l'ha trovata da sola. Quello che vorremmo sottolineare è che si allinea strettamente con il modo in cui abbiamo costruito il nostro prodotto: un livello di onestà che mostra assunzioni, gap e contraddizioni piuttosto che nasconderli; un modo per correggere e rieseguire un'analisi con un contesto reale anziché ricominciare da capo; e un unico verdetto sintetizzato in anticipo, con il percorso completo delle prove disponibile sotto per chiunque voglia controllare il nostro funzionamento.

Una checklist per la prossima affermazione AI che ti verrà consegnata

La prossima volta che un sistema AI — il nostro o quello di chiunque altro — ti fornisce un'affermazione su cui stai per agire, cinque domande ti portano più lontano di “c'è una citazione”:

1. Che tipo è? Ricerca esterna, il tuo input, prove riportate, inferenza etichettata, un calcolo o una correzione umana — richiedono diversi livelli di fiducia.
2. Se è una citazione, la fonte lo dice davvero? L'esistenza di una citazione e il supporto della citazione all'affermazione specifica non sono la stessa verifica.
3. Se è contrassegnato come incerto, si tratta di un gap o di un artefatto? Chiediti cosa in particolare non è verificato — il soggetto o solo la frase.
4. Una versione più ristretta di questa domanda ti darebbe una risposta più verificabile? Se l'affermazione è ampia, considera se dividerla aiuterebbe.
5. Qualcuno con conoscenza di prima mano l'ha effettivamente esaminato? Una correzione umana, laddove disponibile, è spesso il tipo di prova più forte nell'elenco — usala.

Nessuna di queste richiede di diffidare completamente dell'AI. Richiede di trattare “citato” e “vero” come due domande diverse, perché lo sono.