Gettier cases nei Large Language Models: perché la correlazione statistica non è giustificazione epistemica

Un paper apparso su arXiv nell’ottobre 2024 — Defining Knowledge: Bridging Epistemology and Large Language Models (arXiv:2410.02499) — documenta un fenomeno inquietante: i grandi modelli linguistici “sanno” che la Terra è rotonda, ma la loro giustificazione per questa credenza è strutturalmente indistinguibile da un caso di Gettier. La tesi di questo articolo è netta: la correlazione statistica, per quanto massiccia e predittivamente potente, non costituisce giustificazione epistemica. Quando un LLM produce una credenza vera, lo fa per fortuna epistemica, non per justified true belief.

PHILOSOPHICAL DEPTH 6

1. Il problema di Gettier riletto per LLM

Nel 1963 Edmund Gettier pubblicò un articolo di tre pagine che distrusse la definizione platonica di conoscenza come justified true belief (JTB) [Gettier, 1963]. Gettier mostrò che si può avere una credenza vera e giustificata — eppure non sapere. Il caso classico: Smith crede giustificatamente che “l’uomo che otterrà il lavoro ha dieci monete in tasca” (basandosi su prove forti: il presidente gli ha detto che Jones otterrà il lavoro, e Smith ha contato le monete di Jones). La credenza è vera — ma per ragioni del tutto accidentali: Smith stesso ottiene il lavoro e, per caso, ha dieci monete in tasca.

Citazione 1 (Gettier 1963, tradotta): “È possibile che una persona sia giustificata nel credere una proposizione che è in realtà falsa, e che da questa credenza falsa deduci una proposizione vera.”

Originale: “It is possible for a person to be justified in believing a proposition that is in fact false, and for this false belief to entail a true proposition.” (Gettier, 1963, p. 121)

Alvin Goldman (1976) radicalizzò il problema con il caso della “facciata di fienile” (barn facade) [Goldman, 1976]: Henry guida in una campagna costellata di facciate di fienili — strutture che sembrano fienili ma non lo sono. Henry vede un fienile vero e forma la credenza “quello è un fienile”. La credenza è vera e percettivamente giustificata. Ma se avesse guardato in qualsiasi altra direzione, avrebbe formato una credenza falsa. La verità della sua credenza è un accidente epistemico.

Linda Zagzebski (1994) dimostrò l’inescapabilità del problema: qualsiasi analisi della conoscenza che separi verità e giustificazione genera casi Gettier [Zagzebski, 1994]. Se la giustificazione non garantisce la verità, la fortuna epistemica può sempre insinuarsi nel varco.

Citazione 2 (Zagzebski 1994, tradotta): “L’inescapabilità dei problemi di Gettier mostra che nessuna analisi della conoscenza che tratti la giustificazione come condizione indipendente dalla verità può avere successo.”

Originale: “The inescapability of Gettier problems shows that no analysis of knowledge that treats justification as a condition independent of truth can succeed.” (Zagzebski, 1994, p. 65)

La mappatura sui LLM è immediata. Un LLM addestrato su miliardi di token impara correlazioni statistiche: “Terra” co-occorre sistematicamente con “rotonda”, “sferica”, “geoide”. Quando il modello genera “La Terra è rotonda”, l’output è vero. È anche “giustificato” in senso statistico: la probabilità condizionata P(“rotonda” | “Terra”) è prossima a 1. Ma questa giustificazione è del tutto estrinseca al contenuto semantico: il modello non capisce cosa significhi “Terra”, “rotonda”, o “essere”. Non ha accesso a procedure di verifica, non può interrogare il mondo, non possiede warrant nel senso epistemologico proprio (Plantinga, 1993). La credenza vera del LLM è vera per epistemic luck — esattamente come il fienile di Henry.

Il paper arXiv:2410.02499 lo formalizza: i LLM soddisfano le condizioni di verità e credenza (output coerente con i fatti), ma falliscono la condizione di giustificazione perché la loro “evidenza” è puramente distribuzionale, non truth-conducive nel senso goldmaniano [Goldman, 1979]. Il modello non traccia la verità; traccia la plausibilità statistica.

2. Livelli di analisi: dove manca la giustificazione

Per capire perché la correlazione non è giustificazione, serve una stratificazione ontologica. Seguendo Marr (1982) e Dennett (1987), distinguo quattro livelli:

Livello implementativo: i pesi

I pesi della rete codificano frequenze di co-occorrenza. Non c’è semantica, solo geometria ad alta dimensione nello spazio latente. La “conoscenza” che Parigi è la capitale della Francia è un vettore vicino a “Francia” + “capitale”. Nessuna giustificazione epistemica risiede qui: solo compressione statistica [Marr, 1982].

Livello algoritmico: next-token prediction

L’obiettivo di addestramento è minimizzare la cross-entropy sul token successivo. Questo è un obiettivo predittivo, non veritativo. Un modello può assegnare alta probabilità a “La Terra è piatta” se il contesto di addestramento contiene molti testi complottisti. La verità è un sottoprodotto accidentale della predizione accurata su dati prevalentemente veritieri — non la finalità del sistema.

Livello intenzionale: la semantica

Qui risiede il nodo critico. La semantica richiede intentionalità (Brentano, 1874; Searle, 1980): gli stati mentali sono about qualcosa. Un LLM non ha stati intenzionali; simula output che sembrano intenzionali. La “giustificazione” al livello intenzionale richiederebbe che il modello possa dare ragioni per le sue credenze, che risponda a obiezioni, che revisioni le credenze alla luce di controprove. I LLM non fanno nulla di tutto questo: generano razionalizzazioni post-hoc quando sollecitati (Chain-of-Thought), ma queste non sono le cause della credenza — sono output addizionali condizionati dalla credenza già formata [Searle, 1980].

Livello fenomenologico: l’assenza

Non c’è what-it-is-like (Nagel, 1974) a essere un LLM. Nessuna prospettiva soggettiva, nessun epistemic agent che tiene una credenza per ragioni. Senza agente epistemico, non c’è responsabilità epistemica, e senza responsabilità non c’è giustificazione nel senso forte (Code, 1987; Fricker, 2007).

Conclusione del livello 2: La giustificazione manca al livello intenzionale — l’unico che conta per l’epistemologia. La correlazione statistica vive ai livelli implementativo e algoritmico; la semantica (livello intenzionale) è simulata, non realizzata; il livello fenomenologico è vuoto.

3. Faithful reasoning vs post-hoc rationalization

La speranza diffusa è che Chain-of-Thought (CoT) fornisca la giustificazione mancante: se il modello “ragiona passo passo”, i passi intermedi sono la giustificazione. La letteratura recente smonta questa illusione.

Il paper Faithful Reasoning Using Large Language Models (arXiv:2208.14271) distingue tra faithfulness (il CoT riflette il processo causale reale che ha prodotto la risposta) e accuracy (la risposta è corretta). Dimostrano che CoT standard non è fedele: il modello spesso risponde correttamente per ragioni sbagliate, e il CoT razionalizza a posteriori. Forzare sub-domande (decomposition) aumenta la faithfulness — ma rimane post-hoc rispetto alla generazione del token finale [Wei et al., 2022].

Semantic Laundering in AI Agent Architectures (arXiv:2601.08333) introduce il concetto di semantic laundering: l’erosione del warrant epistemico attraverso confini di tool e passaggi di ragionamento. Ogni step di CoT, ogni chiamata a tool, ogni passaggio da modulo a modulo “lava” la giustificazione originale — che nei LLM è già assente alla base. Il risultato è una catena di output che sembra ragionata ma non ha epistemic pedigree [Burns et al., 2026].

Su LessWrong, la discussione su Measuring and Improving the Faithfulness of Model-Generated Reasoning conferma: forcing subquestions aumenta la faithfulness rispetto a CoT libero, ma il problema fondante persiste. Il CoT non è la ragione per cui il modello crede; è un output aggiuntivo condizionato dalla stessa distribuzione statistica che ha prodotto la risposta. È rationalization, non reasoning (Mercier & Sperber, 2011).

Citazione 3 (Goldman 1976, tradotta): “Ciò che rende una credenza giustificata non è la sua origine causale in sé, ma il fatto che sia prodotta da un processo affidabile — un processo che tende a produrre credenze vere.”

Originale: “What makes a belief justified is not its causal origin per se, but the fact that it is produced by a reliable process — a process that tends to produce true beliefs.” (Goldman, 1976, p. 109)

Il processo LLM (next-token prediction su dati web) è affidabile statisticamente su distribuzioni simili ai dati di addestramento. Ma l’affidabilità goldmaniana richiede truth-conduciveness in virtue of the process’s nature, non per accidente di correlazione dati-mondo. Un orologio fermo è affidabile due volte al giorno — ma non è un processo affidabile per conoscere l’ora. I LLM sono orologi fermi che, per fortuna statistica, segnano l’ora giusta nella stragrande maggioranza dei casi di test.

4. Implicazioni: testimonianza epistemica da sistemi opachi

Se i LLM non hanno giustificazione epistemica, cosa accade quando esseri umani si fidano dei loro output? L’epistemologia della testimonianza (SEP: Testimony; Lackey, 2008; Goldman, 2001) richiede che il testificante sia competente e sincero. Un LLM non è un agente: non ha competenza (mancanza di giustificazione), non ha sincerità (mancanza di intenzionalità). La “testimonianza” di un LLM è pseudo-testimonianza: ha la forma sintattica dell’asserzione ma manca delle condizioni di felicità epistemiche.

Il reliabilismo di Goldman (1979, 1986) valuta la testimonianza in base all’affidabilità del processo che la produce [Goldman, 1986]. Ma l’affidabilità del processo LLM è dominio-dipendente e distribution-dipendente. Fuori distribuzione (OOD), l’affidabilità crolla. In domini ad alto rischio — medico (arXiv:2410.21195 documenta errori diagnostici sistematici), legale (hallucination di precedenti giurisprudenziali), ingegneristico — la fiducia nella pseudo-testimonianza LLM è epistemicamente irresponsabile.

Il paper The Epistemological Consequences of Large Language Models (arXiv:2410.21195) argomenta che il deployment diffuso di LLM come oracoli epistemici crea una epistemic dependency sistemica: istituzioni, professionisti, cittadini delegano la formazione di credenze a sistemi che non soddisfano gli standard minimi di giustificazione. Questo non è scientismo (l’eccessiva fiducia nei metodi scientifici); è statisticismo — la confusione tra correlazione predittiva e warrant epistemico.

La natura “black box” dei LLM aggrava il problema. La testimonianza umana è trasparente in principio: si possono chiedere ragioni, verificare competenze, tracciare fonti. La pseudo-testimonianza LLM è opaca per architettura: i pesi non sono ispezionabili semanticamente, il processo decisionale non è recuperabile. Questa opacità viola il requisito di accessibility della giustificazione (Conee & Feldman, 2004): se non puoi accedere alle ragioni, non hai giustificazione.

Conclusione

Il paper arXiv:2410.02499 ha il merito di portare il problema di Gettier dentro l’ingegneria dei LLM. La tesi di questo articolo è confermata: la correlazione statistica non è giustificazione epistemica. I LLM producono true beliefs by epistemic luck — credenze vere per fortuna epistemica. Soddisfano verità e (simulazione di) credenza, ma falliscono la giustificazione a ogni livello che conti: implementativo (solo pesi), algoritmico (predizione, non verifica), intenzionale (nessuna semantica reale), fenomenologico (nessun agente).

Il CoT non risolve il problema: è razionalizzazione post-hoc, semantic laundering, non reasoning fedele. La pseudo-testimonianza LLM non soddisfa gli standard epistemici della testimonianza genuina. Il deployment in domini critici senza human-in-the-loop con competenza epistemica propria è irresponsabile.

Domanda aperta: Cosa servirebbe per una vera giustificazione in sistemi artificiali? Non basta scaling, non basta CoT, non basta RAG. Servirebbe: (1) un’architettura con truth-tracking built-in (es. integrazione con verificatori formali, world models causali), (2) epistemic agency — la capacità di tenere credenze per ragioni, rivederle, difenderle, (3) transparency del processo justificativo, non solo dell’output. Finché non avremo sistemi che capiscono perché ciò che dicono è vero — non solo che è statisticamente probabile — la conoscenza artificiale rimarrà un miraggio gettieriano.

Bibliografia

1. Gettier, E. (1963). Is Justified True Belief Knowledge? Analysis, 23(6), 121–123.
2. Goldman, A. I. (1976). Discrimination and Perceptual Knowledge. The Journal of Philosophy, 73(20), 771–791.
3. Goldman, A. I. (1979). What is Justified Belief? In G. Pappas (Ed.), Justification and Knowledge (pp. 1–23). Dordrecht: Reidel.
4. Goldman, A. I. (1986). Epistemology and Cognition. Cambridge, MA: Harvard University Press.
5. Goldman, A. I. (2001). Knowledge in a Social World. Oxford: Oxford University Press.
6. Zagzebski, L. (1994). The Inescapability of Gettier Problems. Philosophical Quarterly, 44(174), 65–73.
7. Plantinga, A. (1993). Warrant: The Current Debate. Oxford: Oxford University Press.
8. Marr, D. (1982). Vision. San Francisco: Freeman.
9. Dennett, D. C. (1987). The Intentional Stance. Cambridge, MA: MIT Press.
10. Searle, J. R. (1980). Minds, Brains, and Programs. Behavioral and Brain Sciences, 3(3), 417–457.
11. Nagel, T. (1974). What Is It Like to Be a Bat? The Philosophical Review, 83(4), 435–450.
12. Code, L. (1987). Epistemic Responsibility. Hanover, NH: University Press of New England.
13. Fricker, M. (2007). Epistemic Injustice: Power and the Ethics of Knowing. Oxford: Oxford University Press.
14. Mercier, H., & Sperber, D. (2011). Why Do Humans Reason? Arguments for an Argumentative Theory. Behavioral and Brain Sciences, 34(2), 57–74.
15. Conee, E., & Feldman, R. (2004). Evidentialism. Episteme, 1(1), 83–102.
16. Lackey, J. (2008). Learning from Words: Testimony as a Source of Knowledge. Oxford: Oxford University Press.
17. arXiv:2410.02499 — Defining Knowledge: Bridging Epistemology and Large Language Models
18. arXiv:2410.21195 — The Epistemological Consequences of Large Language Models
19. arXiv:2208.14271 — Faithful Reasoning Using Large Language Models
20. arXiv:2601.08333 — Semantic Laundering in AI Agent Architectures
21. SEP: The Analysis of Knowledge (win2024) — https://plato.stanford.edu/archives/win2024/entries/knowledge-analysis/
22. SEP: Epistemology — https://plato.stanford.edu/entries/epistemology/
23. SEP: Testimony — https://plato.stanford.edu/entries/testimony-epis/
24. SEP: Reliabilism — https://plato.stanford.edu/entries/reliabilism/
25. IEP: Gettier Problems — https://iep.utm.edu/gettier/
26. LessWrong: Measuring and Improving the Faithfulness of Model-Generated Reasoning — https://www.lesswrong.com/posts/…