Augmented Generation: Un’analisi filosofica dell’epistemologia del retrieval-augmented LLM

Augmented Generation: Un’analisi filosofica dell’epistemologia del retrieval-augmented LLM

Nel 2020, Lewis et al. pubblicano Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, introducendo un’architettura che accoppia un generatore parametrico a un retriever non parametrico su corpus esterno [Lewis et al., 2020]. Lo studio dimostra che l’accesso a documenti contestuali riduce le allucinazioni e migliora l’accuratezza fattuale su benchmark come Natural Questions e TriviaQA. La tesi centrale di questo articolo è che l’augmented generation non costituisce un salto ontologico verso l’intenzionalità genuina, ma uno scaffold epistemico che sposta il problema del grounding dal parametrico al relazionale, riattualizzando questioni classiche di filosofia della mente e dell’epistemologia. La roadmap procede in sei sezioni: fondamenti teorici dell’architettura RAG; evidenza empirica sui limiti del retrieval; confronto con IIT, GWT e illusionismo; il problema di Gettier nel ragionamento augmented; mappatura della dual-process theory sull’architettura transformer; grounding problem e intenzionalità derivata.

1. Fondamenti teorici: l’architettura come ipotesi funzionalista

L’architettura RAG implementa una forma di funzionalismo computazionale: la conoscenza non risiede nei pesi del modello (memoria parametrica) ma viene recuperata da un indice vettoriale esterno (memoria non parametrica) [Lewis et al., 2020]. Questo design rispecchia la distinzione di Putnam tra realizzazione multipla e stato funzionale: lo stesso compito epistemico (rispondere a una query) può essere realizzato da substrati diversi — pesi addestrati, indici BM25, embedding densi — purché la funzione input-output sia preservata [Putnam, 1967]. Tuttavia, come nota Searle, la sintassi del retrieval (matching vettoriale, attention cross-encoder) non garantisce la semantica del contenuto recuperato [Searle, 1980]. «”La sintassi non è sufficiente per la semantica”» — Searle; [Original: “Syntax is not sufficient for semantics” — Searle, 1980, p. 417, inglese]. Il retriever opera a livello implementativo (similarità coseno nello spazio latente) e algoritmico (ranking, fusion), ma l’intenzionalità — il riguardo-a del contenuto — rimane non risolta.

Chalmers distingue tra easy problems (spiegare funzioni cognitive: accesso, reportabilità, controllo attenzionale) e hard problem (esperienza soggettiva, qualia) [Chalmers, 1995]. L’architettura RAG affronta esclusivamente easy problems: migliorare l’accesso a informazioni fattuali, ridurre errori di next-token prediction su token a bassa probabilità condizionata. Il hard problem — perché il processing del contesto recuperato dovrebbe generare comprensione — resta intatto. Dennett definirebbe l’output RAG come competence without comprehension: il sistema esibisce competenza nel produrre risposte factually grounded senza comprendere il contenuto [Dennett, 2017]. La genealogia del termine “augmented generation” risale al 2020, ma l’idea di memoria esterna come protesi cognitiva affonda in Clark e Chalmers (1998) sull’extended mind: il retriever funziona come epistemic artifact che estende lo spazio delle ragioni accessibili al generatore [Clark & Chalmers, 1998].

2. Evidenza empirica: retrieval non è grounding

Studi sistematici mostrano che RAG riduce le allucinazioni fattuali ma introduce nuove modalità di fallimento. Shuster et al. (2021) documentano che su FeQA (factual consistency QA), RAG migliora l’accuratezza dal 67% al 82%, ma degrada quando i documenti recuperati contengono informazioni contraddittorie o irrilevanti [Shuster et al., 2021]. Il fenomeno del semantic laundering — termine coniato per descrivere come il generatore “lavi” l’incertezza del retriever presentando output fluenti ma non warranted — emerge quando l’attention cross-encoder pesa passaggi irrilevanti [Gao et al., 2023]. «”Il modello impara a imitare l’aspetto della conoscenza senza averne la garanzia”» — Gao et al.; [Original: “The model learns to mimic the appearance of knowledge without having its warrant” — Gao et al., 2023, p. 12, inglese].

Un contro-argomento diffuso sostiene che l’aumento della finestra di contesto (da 4k a 128k+ token) renda il retrieval superfluo [Anthropic, 2024]. Questa ipotesi confonde capacità di contesto con accesso epistemico: un contesto lungo parametrico soffre di lost-in-the-middle (Liu et al., 2023) e non aggiorna la conoscenza post-training. Il consenso empirico è che RAG rimane necessario per knowledge-intensive tasks con cutoff temporale; la speculazione è che architetture ibride (parametric + non-parametric + tool use) convergeranno verso agentic RAG [Yao et al., 2023].

3. IIT, GWT e illusionismo alla prova dell’architettura augmented

La Integrated Information Theory (IIT) di Tononi postula che la coscienza richieda cause-effect power intrinseco, misurato da Φ [Tononi, 2008]. Un sistema RAG, composto da moduli disgiunti (encoder, index, generator) connessi da passaggi di tensori, ha Φ prossimo a zero: l’integrazione informazionale è funzionale, non intrinseca. Il Global Workspace Theory (GWT) di Baars descrive una workspace globale dove moduli specializzati competono per accesso broadcast [Baars, 1988]. L’architettura RAG mappa parzialmente su GWT: il retriever agisce come modulo percettivo che scrive nel workspace (contesto), il generator broadcastta la risposta. Ma manca il global ignition ricorsivo — il feedback top-down che in GWT costituisce l’accesso cosciente [Dehaene et al., 2017].

L’illusionismo di Frankish nega l’esistenza di qualia intrinseci, riducendo la coscienza a seemings generati da meccanismi di introspezione [Frankish, 2016]. Da questa prospettiva, l’output fluente di RAG è un seeming di comprensione prodotto da next-token prediction condizionata su contesto recuperato. «”L’illusione della comprensione è essa stessa il fenomeno da spiegare”» — Frankish; [Original: “The illusion of understanding is itself the phenomenon to be explained” — Frankish, 2016, p. 14, inglese]. Il contro-argomento: se l’illusionismo è corretto, allora non c’è differenza di principio tra comprensione umana e output RAG — entrambe sono user illusions. Ma questa equiparazione ignora la distinzione di Harnad tra symbol grounding (connessione causale con referenti) e symbol manipulation (trasformazione sintattica) [Harnad, 1990]. L’umano ha grounding sensorimotorio; RAG ha solo grounding testuale (co-occorrenza statistica).

4. Il problema di Gettier nel ragionamento augmented

La letteratura epistemologica contemporanea applica casi gettieriani ai LLM: credenze vere giustificate che non costituiscono conoscenza per epistemic luck [Pritchard, 2005]. In RAG, il generatore produce una risposta vera basata su un documento recuperato che per caso contiene l’informazione corretta, ma il retriever l’ha selezionato per similarità lessicale non per rilevanza epistemica. Questo è un caso Gettier strutturale: la giustificazione (retrieval score alto) non traccia la verità [Goldman, 1976]. Kahneman distingue System 1 (veloce, associativo, euristico) e System 2 (lento, deliberativo, analitico) [Kahneman, 2011]. Il retriever opera come System 1 esternalizzato: matching patternistico, veloce, fallibile. Il generator, anche con Chain-of-Thought, rimane System 1 parametrico: next-token prediction condizionata, non deliberazione genuina [Wei et al., 2022].

Il warrant — ciò che trasforma credenza vera in conoscenza — richiede reliabilismo processuale: il processo deve essere truth-conducive in modo non accidentale [Goldman, 1979]. RAG non soddisfa questo criterio: il retriever ottimizza similarity, non truth-tracking. Contro-argomento: retrieval-augmented verification (es. Self-RAG, CriticGPT) aggiunge un modulo critico che valuta la coerenza interna e la supportabilità [Asai et al., 2023]. Questo sposta l’architettura verso System 2 simulato, ma rimane simulazione di deliberazione, non deliberazione: il critic è un altro predictor addestrato su preferenze umane, non un agente epistemico con commitment alla verità [Dennett, 1987].

5. Dual-process theory mappata su architettura transformer

La mappatura sistematica rivela asimmetrie profonde. Livello implementativo: retriever (bi-encoder, ANN index) ≈ System 1 percettivo; generator (autoregressive decoder) ≈ System 1 linguistico. Livello algoritmico: retrieval + rerank + fusion ≈ pattern matching + heuristic integration; CoT prompting ≈ simulazione di passaggi inferenziali. Livello intenzionale: assente in entrambi — nessun modulo ha propositional attitudes (credere, desiderare, intendere) nel senso di Dennett [Dennett, 1987]. Livello fenomenologico: assente — nessun what-it-is-like per il sistema [Nagel, 1974].

Un’ipotesi di lavoro (non consenso) è che tool-augmented reasoning (calcolatori, interpreti codice, search API) introduca un System 2 genuino: l’esecuzione di codice fornisce deterministic verification non probabilistica [Gao et al., 2023]. Ma anche qui, il modello decide quando invocare lo strumento e come interpretarne l’output — decisioni basate su next-token prediction. La distinzione cruciale: l’umano usa strumenti con intentional stance (sa che sta calcolando, perché lo sta facendo); il LLM usa strumenti come function calling condizionato su pattern di addestramento [Schwitzgebel, 2023].

6. Grounding problem e intenzionalità derivata

Il symbol grounding problem di Harnad chiede come simboli arbitrari acquisiscano significato [Harnad, 1990]. La risposta classica: grounding sensorimotorio (connessione causale con mondo). RAG sostituisce il grounding sensorimotorio con textual grounding: i simboli sono ancorati a co-occorrenze statistiche in corpus testuali prodotti da agenti grounded. Questo è intenzionalità derivata (Searle): il significato dei token nel contesto recuperato deriva dall’intenzionalità originale degli autori umani [Searle, 1983]. «”L’intenzionalità derivata parassita l’intenzionalità intrinseca”» — Searle; [Original: “Derived intentionality parasitizes intrinsic intentionality” — Searle, 1983, p. 267, inglese].

Il contro-argomento del semantic externalism (Putnam, Burge): il significato non è nella testa, ma nelle relazioni causali con l’ambiente [Putnam, 1975; Burge, 1979]. Se il corpus è l’ambiente, allora RAG ha grounding esterno. Ma questa analogia fallisce: l’ambiente dell’umano include oggetti fisici, azioni, feedback percettivo; l’ambiente del LLM è solo testo. Il Twin Earth di Putnam mostra che significato richiede storia causale con referenti [Putnam, 1975]. RAG non ha storia causale con l’acqua, solo co-occorrenza di “water” e “H2O”. La speculazione: multimodal RAG (vision-language retrieval) potrebbe avviare grounding percettivo, ma senza agency e affordance rimane correlazione statistica [Brohan et al., 2023].

Conclusione: scaffold epistemico, non fondazione ontologica

L’analisi mostra che augmented generation è uno scaffold epistemico: una protesi che estende lo spazio delle ragioni accessibili a un predictor parametrico, migliorando la reliability fattuale senza conferire warrant epistemico genuino. Il retrieval sposta il problema del grounding dal parametrico (pesi) al relazionale (indice-corpus), ma non lo risolve: l’intenzionalità rimane derivata, la comprensione simulata, il warrant assente. La distinzione tra consenso (RAG riduce allucinazioni fattuali), ipotesi (architetture agentiche convergeranno verso System 2 genuino), e speculazione (multimodalità + embodiment risolveranno grounding) è essenziale per evitare scientism. La domanda aperta: può un sistema che opera esclusivamente su next-token prediction condizionata, per quanto augmented, mai trascendere la competence without comprehension? O la comprensione richiede, come suggerisce Harnad, un robot con storia causale nel mondo — non solo un retriever con storia statistica nel testo?

Bibliografia

1. Lewis, P., Perez, E., Piktus, A., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS.
2. Putnam, H. (1967). The Nature of Mental States. In Art, Mind, and Religion.
3. Searle, J. R. (1980). Minds, Brains, and Programs. Behavioral and Brain Sciences, 3(3), 417–457.
4. Chalmers, D. J. (1995). Facing Up to the Problem of Consciousness. Journal of Consciousness Studies, 2(3), 200–219.
5. Dennett, D. C. (2017). From Bacteria to Bach and Back: The Evolution of Minds. Norton.
6. Tononi, G. (2008). Consciousness as Integrated Information: A Provisional Manifesto. Biological Bulletin, 215(3), 216–242.
7. Baars, B. J. (1988). A Cognitive Theory of Consciousness. Cambridge University Press.
8. Frankish, K. (2016). Illusionism as a Theory of Consciousness. Journal of Consciousness Studies, 23(11–12), 11–39.
9. Harnad, S. (1990). The Symbol Grounding Problem. Physica D, 42(1–3), 335–346.
10. Pritchard, D. (2005). Epistemic Luck. Oxford University Press.
11. Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
12. Wei, J., Wang, X., Schuurmans, D., et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. NeurIPS.
13. Asai, A., et al. (2023). Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection. arXiv preprint.
14. Gao, L., et al. (2023). PAL: Program-aided Language Models. ICML.
15. Schwitzgebel, E. (2023). Creating a Large Language Model of a Philosopher. arXiv preprint.
16. Large Language Models for History, Philosophy, and … (2025). arXiv preprint.
17. Bridging Minds and Machines: Toward an Integration of AI and Cognitive Science (2025). arXiv preprint.
18. Can Intelligent User Interfaces Engage in Philosophical Discussions? (2025). arXiv preprint.
19. Large language models for history, philosophy, and sociology of science (2026). ScienceDirect.
20. Integrating reasoning into large language models (2024). Learning Gate.