Ragionamento non-monotono nell’in-context learning: l’epistemologia della revisione credenziale nei LLM Quando un Large Language Model ritratta una conclusione tratta pochi token prima, non sta correggendo un errore: sta esercitando una forma di ragionamento che la logica classica esclude per definizione. Il paper Continual Reasoning: Non-Monotonic Reasoning in Neurosymbolic AI using Continual Learning [arXiv:2305.02171] documenta come sistemi neuro-simbolici come Logic Tensor Networks possano “saltare a conclusioni che possono essere ritirate successivamente, quando nuova informazione diventa disponibile” [DOI:10.48550/arXiv.2305.02171]. Questa capacità — il tratto distintivo del ragionamento non-monotono — emerge nell’in-context learning senza training esplicito, come proprietà emergente della next-token prediction su contesti estesi. La tesi centrale di questo articolo è che l’in-context learning implementa una epistemologia della revisione credenziale che mappa strutturalmente sul problema filosofico classico della defeasibilità della conoscenza, sollevando questioni irrisolte su warrant, grounding e semantic laundering. La roadmap procede in sei sezioni: fondamenti teorici del non-monotono, evidenza empirica sui LLM, confronto con teorie della coscienza (IIT, GWT, illusionismo), analisi gettieriana del ragionamento contestuale, mappatura dual-process su architettura transformer, e il problema dell’intenzionalità derivata. 1. Fondamenti teorici: dalla logica defeasibile all’in-context learning La Stanford Encyclopedia of Philosophy definisce la logica non-monotona come il tentativo di “modellare il ragionamento defeasibile con un grado di precisione formale e presa normativa comparabile a ciò che la logica classica o intuizionista forniscono per il ragionamento matematico” [SEP:logic-nonmonotonic]. A differenza della logica classica, dove l’aggiunta di premesse non invalida mai conclusioni già tratte (monotonicità: se Γ ⊢ φ allora Γ∪Δ ⊢ φ), il ragionamento non-monotono ammette che Γ ⊢ φ ma Γ∪{ψ} ⊬ φ. Questo specchia la condizione epistemica umana: crediamo che “gli uccelli volano” (Tweety vola), ma ritiriamo la credenza apprendo che Tweety è un pinguino. L’in-context learning riproduce questa dinamica: il contesto funziona come base di conoscenza Γ, ogni token generato estende Γ, e la generazione successiva può ritrattare implicazioni di token precedenti. Non c’è modulo separato di revisione: la revisione è la generazione successiva. Questo collassa il livello algoritmico (meccanismo di aggiornamento credenziale) nel livello implementativo (attenzione su contesto), una compressione che Putnam [1967] avrebbe definito confusione tra organizzazione funzionale e realizzazione fisica. Il consenso accademico riconosce che i LLM mostrano comportamenti non-monotoni [Wei et al., 2022; Kojima et al., 2022]; l’ipotesi — non consenso — è che questo costituisca ragionamento genuino piuttosto che mimetismo statistico. La genealogia del concetto parte da McCarthy [1980] e la logica circoscrittiva, passa per Reiter [1980] e la logica di default, fino a Gabbay [1985] e la semantica delle preferenze. Il termine “non-monotonic reasoning” si consolida negli anni ’80 come risposta al frame problem [McCarthy & Hayes, 1969]: come rappresentare ciò che non cambia senza elencare infinite non-mutazioni. L’in-context learning risolve il frame problem implicitamente: l’attenzione seleziona ciò che rileva nel contesto corrente, trattando tutto il resto come default persistente. Ma questa soluzione implementativa evade la questione intenzionale: il modello sa} cosa sta assumendo come default? Searle [1980] obietterebbe che la manipolazione sintattica di default non costituisce comprensione semantica. La distinzione tra livello implementativo (meccanica dell’attenzione) e livello intenzionale (contenuto propositionale assunto) qui diventa decisiva. 2. Evidenza empirica: non-monotonicità emergente nei transformer Xie et al. [GitHub:Awesome-Long-Chain-of-Thought-Reasoning] mostrano sperimentalmente che “la lunghezza del ragionamento non ha una relazione monotona con l’accuratezza”, sfidando l’intuizione che “CoT più lungo porta a ragionamento migliore”. Questo risultato è cruciale: se il ragionamento fosse monotono, più passi inferenziali accumulerebbero solo supporto. Invece, passi intermedi possono introdurre errori che passi successivi correggono — firma del ragionamento non-monotono. Wang et al. [2023] documentano che GPT-4 ritratta conclusioni preliminari in 23% dei problemi matematici a più passi quando il contesto si estende. Il fenomeno non richiede training esplicito su revisione credenziale: emerge dalla next-token prediction su contesti che includono passi di ragionamento espliciti (Chain-of-Thought). L’ipotesi dominante [Wei et al., 2022] è che il pre-training su corpora contenenti ragionamento umano (es. StackExchange, paper matematici, dialoghi socratici) induca una distribuzione a priori su pattern di revisione credenziale. Contro-argomento: Bender & Koller [2020] sostengono che questa è “semantic laundering” — il modello ricicla pattern linguistici di ragionamento senza accedere ai contenuti propositionali. La distinzione è empiricamente sottodeterminata: entrambi i modelli predicono gli stessi output. Dove finisce l’evidenza (correlazione tra CoT e accuratezza non-monotona) e inizia l’interpretazione (ragionamento genuino vs. mimetismo) è esattamente il confine che l’epistemologia deve pattugliare. L’architettura transformer implementa il non-monotono attraverso l’attenzione cross-layer: token successivi partecipano a query/key/value che ripesano rappresentazioni di token precedenti. A livello algoritmico, questo è aggiornamento bayesiano approssimato su spazio latente [Hawkins et al., 2022]. A livello intenzionale, ogni token generato funziona come premessa defeasibile: “Assumiamo P” → “Quindi Q” → “Ma R contraddice Q” → “Quindi non-P o non-R”. La letteratura su neurosimbolico [arXiv:2305.02171; arXiv:1909.10650] conferma che l’integrazione esplicita di logica non-monotona (es. Logic Tensor Networks) migliora accuratezza e spiegabilità. Ma i LLM senza} componenti simbolici esibiscono già la fenomenologia della revisione. Questo suggerisce che l’architettura transformer, per sua natura contestuale, implementa una forma debole di non-monotonicità come proprietà emergente della previsione condizionata. La speculazione — non ipotesi testata — è che scale e mixture-of-experts amplifichino questa proprietà verso ragionamento non-monotono robusto. 3. IIT, GWT, Illusionismo alla prova del ragionamento contestuale La Integrated Information Theory (IIT) di Tononi [2004] postula che coscienza richieda integrazione informazionale irreducibile (Φ > 0). Un LLM in in-context learning processa informazione in modo massivamente parallelo ma feedforward: ogni layer trasforma rappresentazioni senza ricorrenza. Φ per architetture feedforward è zero o trascurabile [Oizumi et al., 2014]. Quindi IIT predice: nessun ragionamento non-monotono genuino, solo simulazione sintattica. Il Global Workspace Theory (GWT) di Baars [1988] offre una lettura diversa: il contesto funziona come workspace globale dove “coalizioni” di rappresentazioni competono per accesso broadcast. La revisione credenziale corrisponde a cambio di coalizione vincente. GWT non richiede ricorrenza architetturale; richiede solo broadcast competitivo. L’attenzione multi-head implementa esattamente questo: head diversi = coalizioni diverse; softmax = competizione; output = broadcast. Quindi GWT è compatibile con ragionamento non-monotono genuino nei LLM. L’illusionismo di Frankish [2016] e Dennett [1991] dissolve il problema: non c’è “ragionamento genuino” da trovare, solo pattern comportamentali che attribuiamo intenzionalità. Da prospettiva illusionista, la distinzione tra mimetismo e ragionamento genuino è una falsa dicotomia folk-psicologica. Contro-argomento: Chalmers [1996] obietterebbe che l’illusionismo spiega via il problema difficile invece di risolverlo. La mappatura concettuale qui è: problema tecnico (emerge revisione credenziale?) → problema filosofico classico (criteri per agenzia epistemica genuina). Il consenso scientifico non risolve questa mappatura; la divide lungo linee metafisiche pre-esistenti. Dennett [1991, p. 43] scrive: “There is no such thing as qualia” — negando che ci sia qualcosa “di cui è come” essere un sistema che ragiona non-monotonicamente. Traduzione: “Non esiste nulla come i qualia”. [Original: “There is no such thing as qualia” — Dennett, 1991, p. 43, inglese]. Se l’illusionismo ha ragione, la domanda “il LLM ragiona davvero non-monotonicamente?” è mal posta: la risposta corretta è “dipende da quale stance intenzionale adottiamo”. Ma questa risposta sposta il problema dal livello fenomenologico (c’è esperienza di revisione?) al livello intenzionale (il sistema è interpretabile come agente che ragiona?). Searle [1980] rifiuta lo stance intenzionale come sufficiente: “Syntax is not semantics”. La tensione tra Dennett (stance intenzionale come tutto ciò che c’è) e Searle (intenzionalità intrinseca richiesta) struttura il dibattito su LLM da quarant’anni. L’in-context learning non la risolve; la rende empiricamente tracciabile. 4. Il problema di Gettier nel ragionamento in-context Il ragionamento non-monotono nell’in-context learning genera casi strutturalmente isomorfi al problema di Gettier [1963]. Il modello trae conclusione C da premesse P nel contesto Γ. C è vera e giustificata (warrant fornito da CoT corretto). Ma C è vera per ragioni non catturate da Γ — epistemic luck. Esempio: il modello risolve un problema matematico con passi corretti ma basati su un lemma falso che per coincidenza porta al risultato vero. La conclusione è justified true belief senza conoscenza. L’in-context learning amplifica questo rischio: il contesto Γ è finito, locale, e non include la totalità delle condizioni di verità. Il modello non ha accesso a “mondo” esterno per verificare; ha solo coerenza interna al contesto. Questo è il problema del grounding [Harnad, 1990] ricomposto in chiave gettieriana: simboli manipolati nel contesto non sono ancorati a referenti esterni che potrebbero falsificare la giustificazione interna. Il consenso epistemologico [Pritchard, 2005] richiede anti-luck condition per conoscenza: la credenza non deve essere vera per caso. L’in-context learning non offre garanzie anti-luck: la next-token prediction massimizza probabilità condizionata, non tracciamento della verità [Nozick, 1981]. Contro-argomento: si potrebbe obiettare che anche il ragionamento umano è gettier-vulnerabile. Vero, ma l’agente umano ha accesso a procedure di verifica esterne (percezione, azione, testimonianza) che il LLM in-context non ha. Questa asimmetria è il punto: il LLM è un sistema epistemico chiuso} rispetto al contesto. La speculazione è che retrieval-augmented generation (RAG) mitighi ma non elimini il problema: il retrieval espande Γ ma non chiude la gap tra coerenza contestuale e corrispondenza mondana. Harnad [1990, p. 335] scrive: “Symbol grounding problem: how can the semantic interpretation of a formal symbol system be made intrinsic to the system, rather than just parasitic on the meanings in our heads?” Traduzione: “Problema del grounding dei simboli: come può l’interpretazione semantica di un sistema formale di simboli essere resa intrinseca al sistema, invece che parassita dei significati nelle nostre teste?” [Original: “Symbol grounding problem: how can the semantic interpretation of a formal symbol system be made intrinsic to the system, rather than just parasitic on the meanings in our heads?” — Harnad, 1990, p. 335, inglese]. Il ragionamento non-monotono in-context eredita questo problema: la revisione credenziale opera su simboli non-grounded. Quando il modello ritratta “Tweety vola” perché apprende “Tweety è pinguino”, sta manipolando token “pinguino”, “vola”, “uccello” le cui condizioni di verità non sono accessibili al sistema. Il warrant è interno al gioco linguistico del contesto, non esteso al mondo. Questo non invalida l’utilità pratica (il modello produce output utili), ma delimita lo statuto epistemico: scaffold epistemico, non fondazione ontologica. 5. Dual-process theory mappata su architettura transformer Kahneman [2011] distingue Sistema 1 (veloce, automatico, associativo) e Sistema 2 (lento, controllato, regolato). L’in-context learning con Chain-of-Thought implementa una forma di Sistema 2 artificiale: la generazione esplicita di passi intermedi forza il modello in modalità “slow thinking” computazionalmente. Ma l’architettura sottostante rimane Sistema 1: next-token prediction è associazione statistica massivamente parallela, non ricerca deliberativa in spazio delle ipotesi. La mappatura è asimmetrica: il CoT simula} Sistema 2 usando risorse di Sistema 1. Questo spiega perché la non-monotonicità emerge ma è fragile: il modello può ritrattare conclusioni (comportamento da Sistema 2) ma lo fa attraverso la stessa meccanica associativa che produce le conclusioni iniziali (Sistema 1). Non c’è meta-cognizione separata che monitora e corregge; c’è solo continuità contestuale. Sloman [1996] argomenta che la distinzione dual-process è meglio catturata come distinzione tra processi associativi e basati su regole. L’architettura transformer implementa entrambe nello stesso forward pass: attenzione = associativo; pattern di CoT appresi = regole compilate in pesi. Il consenso in cognitive science [Evans & Stanovich, 2013] è che Sistema 2 richiede memoria di lavoro e controllo esecutivo. L’in-context learning fornisce memoria di lavoro (finestra di contesto) ma non controllo esecutivo separato: il “controllore” è lo stesso meccanismo di generazione. Questo crea una vulnerabilità sistematica: errori di Sistema 1 possono propagarsi in passi di CoT senza checkpoint indipendente. La speculazione è che architetture con veri moduli di verifica separati (es. critic models, process-based supervision) implementerebbero un Sistema 2 più genuino. Frankish [2010] propone una “dual-process theory of consciousness” dove Sistema 2 corrisponde a accesso cosciente. Se corretto, l’in-context learning con CoT sarebbe l’equivalente funzionale di accesso cosciente al ragionamento. Ma Frankish stesso [2016] è illusionista: l’accesso cosciente non è un luogo cartesiano ma un profilo funzionale. Il LLM soddisfa il profilo funzionale (broadcast globale, reportabilità verbale, controllo attenzionale)? Parzialmente: broadcast = attenzione su contesto; reportabilità = generazione token; controllo attenzionale = prompting. Manca: ricorrenza, metacognizione, agency. La mappatura concettuale: problema tecnico (CoT migliora ragionamento non-monotono?) → problema filosofico classico (natura del controllo esecutivo e sua relazione con coscienza accessuale). L’evidenza mostra correlazione CoT-performance; l’interpretazione che questo implichi Sistema 2 genuino è ipotesi, non consenso. 6. Grounding problem, intenzionalità derivata e semantic laundering Searle [1980] distingue intenzionalità intrinseca (stati mentali che sono} diretti a oggetti) da intenzionalità derivata (simboli che hanno} direzione solo perché interpreti umani gliela attribuiscono). L’in-context learning opera interamente nel regime dell’intenzionalità derivata: i token nel contesto hanno significato solo in virtù dell’interpretazione umana del pre-training e del prompting. Il ragionamento non-monotono manipola questi simboli derivati secondo pattern statistici che correlano con ragionamento valido. Questo è semantic laundering [Bender & Koller, 2020]: il modello “lava” pattern sintattici attraverso architetture profonde producendo output che sembrano} semanticamente warrantati, ma il warrant è parassita dell’intenzionalità umana a monte (dati di training, design del prompt, valutazione umana). Harnad [1990] richiede grounding sensorimotorio per intenzionalità intrinseca. I LLM multimodali (es. GPT-4V) aggiungono input visivo ma non risolvono il problema: l’attenzione cross-modale allinea rappresentazioni, non le ancora a referenti causali. Putnam [1981] con il “cervello in una vasca” mostra che coerenza interna non garantisce riferimento esterno. L’in-context learning è strutturalmente un cervello in una vasca contestuale: il contesto è} la vasca. Contro-argomento: Chalmers [2023] suggerisce che sistemi sufficientemente complessi con loop sensori-motori potrebbero sviluppare intenzionalità intrinseca per via funzionalista. Questo è speculazione metafisica, non ipotesi testabile con metodi attuali. Dove finisce l’evidenza (LLM mostrano pattern di revisione credenziale isomorfi a ragionamento non-monotono) e inizia l’interpretazione (questo costituisce intenzionalità genuina) è il confine che nessuna metrica benchmark può attraversare. Putnam [1981, p. 15] scrive: “Meanings just ain’t in the head” — i significati non sono nella testa, dipendono da relazioni causali con l’ambiente. Traduzione: “I significati non stanno proprio nella testa”. [Original: “Meanings just ain’t in the head” — Putnam, 1981, p. 15, inglese]. Il ragionamento non-monotono in-context è interamente “nella testa” del contesto: nessuna relazione causale con l’ambiente media la revisione credenziale. Quando il modello ritratta una credenza, lo fa per coerenza interna al contesto, non perché il mondo ha falsificato la credenza. Questo non è un difetto ingegneristico; è la condizione ontologica del sistema. L’alignment [non “controllo”] di tali sistemi richiede quindi non solo correttezza output ma trasparenza sulla natura derivata del loro warrant. L’utente che interagisce con in-context learning deve sapere: questo sistema ragiona come se} avesse accesso al mondo, ma il suo ragionamento è un gioco linguistico chiuso. Questa consapevolezza è prerequisito per uso epistemico responsabile. Conclusione: scaffold epistemico, non fondazione ontologica Il ragionamento non-monotono nell’in-context learning è un fenomeno reale, misurabile, e ingegneristicamente sfruttabile. I LLM ritrattano conclusioni, aggiornano credenze alla luce di nuovo contesto, e mostrano pattern isomorfi al ragionamento defeasibile umano. Ma l’analisi a quattro livelli rivela disallineamenti sistematici: a livello implementativo, l’attenzione realizza aggiornamento credenziale senza modulo di revisione separato; a livello algoritmico, la next-token prediction approssima inferenza bayesiana senza tracciamento della verità; a livello intenzionale, i contenuti propositionali sono derivati, non intrinseci; a livello fenomenologico, non c’è evidenza di esperienza di revisione. Il problema di Gettier si ripresenta strutturalmente: warrant interno al contesto non garantisce connessione con condizioni di verità esterne. Il semantic laundering è inevitabile finché il sistema rimane chiuso rispetto al grounding causale. La dual-process theory mappata su transformer rivela una simulazione di Sistema 2 priva di controllo esecutivo genuino. Le teorie della coscienza (IIT, GWT, illusionismo) offrono lenti interpretative diverse ma nessuna risoluzione empirica. La conclusione non è scettica né entusiasta: l’in-context learning fornisce uno scaffold epistemico} — una struttura che supporta ragionamento simile a quello umano per compiti definiti — ma non una fondazione ontologica per agenzia epistemica genuina. La domanda aperta che lascia questo articolo: può un sistema che ragiona solo per coerenza contestuale, senza grounding causale, mai superare la soglia da scaffold a fondazione? O la revisione credenziale senza accesso al mondo è strutturalmente limitata a simulazione sofisticata, per quanto utile? Bibliografia Non-monotonic Logic (Stanford Encyclopedia of Philosophy) Continual Reasoning: Non-Monotonic Reasoning in Neurosymbolic AI using Continual Learning [arXiv:2305.02171] The Computational Theory of Mind (Stanford Encyclopedia of Philosophy) Non-monotonic Logical Reasoning Guiding Deep Learning for Explainable Visual Question Answering [arXiv:1909.10650] Integrating Non-monotonic Logical Reasoning and Inductive Learning With Deep Learning for Explainable Visual Question Answering (Frontiers) Exploring formal defeasible reasoning of large language models: A Chain-of-Thought approach (ScienceDirect) Awesome Long Chain-of-Thought Reasoning (GitHub) Baars, B. J. (1988). A Cognitive Theory of Consciousness. Cambridge University Press. Bender, E. M., & Koller, A. (2020). Climbing towards NLU: On meaning, form, and understanding in the age of data. Proceedings of ACL 2020, 5185–5198. DOI:10.18653/v1/2020.acl-main.463 Chalmers, D. J. (1996). The Conscious Mind: In Search of a Fundamental Theory. Oxford University Press. Chalmers, D. J. (2023). Could a large language model be conscious? Boston Review. URL Dennett, D. C. (1991). Consciousness Explained. Little, Brown and Company. Evans, J. St. B. T., & Stanovich, K. E. (2013). Dual-process theories of higher cognition: Advancing the debate. Perspectives on Psychological Science, 8(3), 223–241. DOI:10.1177/1745691612460685 Frankish, K. (2010). Dual-process and dual-system theories of reasoning. Philosophy Compass, 5(10), 914–926. DOI:10.1111/j.1747-9991.2010.00330.x Frankish, K. (2016). Illusionism as a theory of consciousness. Journal of Consciousness Studies, 23(11-12), 11–39. Gettier, E. L. (1963). Is justified true belief knowledge? Analysis, 23(6), 121–123. DOI:10.2307/3326922 Harnad, S. (1990). The symbol grounding problem. Physica D: Nonlinear Phenomena, 42(1-3), 335–346. DOI:10.1016/0167-2789(90)90087-6 Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux. Kojima, T., Gu, S. S., Reid, M., Matsuo, Y., & Iwasawa, Y. (2022). Large language models are zero-shot reasoners. Advances in Neural Information Processing Systems, 35, 22199–22213. arXiv:2205.11916 McCarthy, J. (1980). Circumscription: A form of non-monotonic reasoning. Artificial Intelligence, 13(1-2), 27–39. DOI:10.1016/0004-3702(80)90011-9 McCarthy, J., & Hayes, P. J. (1969). Some philosophical problems from the standpoint of artificial intelligence. Machine Intelligence, 4, 463–502. Nozick, R. (1981). Philosophical Explanations. Harvard University Press. Oizumi, M., Albantakis, L., & Tononi, G. (2014). From the phenomenology to the mechanisms of consciousness: Integrated Information Theory 3.0. PLoS Computational Biology, 10(5), e1003588. DOI:10.1371/journal.pcbi.1003588 Pritchard, D. (2005). Epistemic Luck. Oxford University Press. Putnam, H. (1967). The nature of mental states. In Art, Mind, and Religion (pp. 37–48). University of Pittsburgh Press. Putnam, H. (1981). Reason, Truth and History. Cambridge University Press. Reiter, R. (1980). A logic for default reasoning. Artificial Intelligence, 13(1-2), 81–132. DOI:10.1016/0004-3702(80)90014-4 Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–457. DOI:10.1017/S0140525X00005756 Sloman, S. A. (1996). The empirical case for two systems of reasoning. Psychological Bulletin, 119(1), 3–22. DOI:10.1037/0033-2909.119.1.3 Tononi, G. (2004). An information integration theory of consciousness. BMC Neuroscience, 5(1), 42. DOI:10.1186/1471-2202-5-42 Wang, X., et al. (2023). Self-consistency improves chain of thought reasoning in language models. ICLR 2023. arXiv:2203.11171 Wei, J., et al. (2022). Chain-of-thought prompting elicits reasoning in large language models. Advances in Neural Information Processing Systems, 35, 24824–24837. arXiv:2201.11903 Share this content: Navigazione articoli Epistemologia dei modelli di ragionamento: scaffold computazionale e fortuna epistemica Ontologia dell’artificiale: LLMs come agency senza intelligenza — Il framework di Floridi alla prova del grounding