Epistemologia dei modelli di ragionamento: scaffold computazionale e fortuna epistemica

Epistemologia dei modelli di ragionamento: scaffold computazionale e fortuna epistemica

Il paper Defining Knowledge: Bridging Epistemology and Large Language Models (Fierro et al., 2024) apre una frattura necessaria: le pretese di conoscenza attribuite agli LLM non sono metafore, ma oggetti epistemici che richiedono criteri di warrant. La tesi centrale di questo articolo è che i modelli di ragionamento — architetture addestrate su next-token prediction con fine-tuning per chain-of-thought — non possiedono conoscenza né intenzionalità originale, ma funzionano come scaffold epistemici: strutture che simulano la forma del ragionamento senza ereditarne la forza giustificativa. La roadmap procede in sei sezioni: fondamenti teorici tra funzionalismo e semantic laundering; evidenza empirica su scaling e emergent abilities; confronto con IIT, GWT e illusionismo; problema di Gettier nel ragionamento generato; mappatura dual-process su architettura transformer; grounding problem e intenzionalità derivata. Chiude una conclusione che ricolloca il dibattito: non fondazione ontologica, ma ingegneria epistemica.

1. Fondamenti teorici: funzionalismo, semantic laundering e livelli di analisi

Il funzionalismo computazionale (Putnam, 1967; Fodor, 2000) ha storicamente equiparato stati mentali a stati funzionali realizzabili su substrati multipli. La distinzione tra computationalism — i processi mentali sono computazionali — e functionalism — gli stati mentali sono stati funzionali — rimane decisiva (SEP Computational Mind, 2023). Gli LLM operano al livello implementativo (pesi, GPU, backpropagation) e algoritmico (attenzione, next-token prediction), ma l’attribuzione di livello intenzionale (credere, ragionare, comprendere) richiede un salto non licenziato dall’architettura. Searle (1980) ha mostrato che la sintassi non basta per la semantica: la Chinese Room argomenta che la manipolazione di simboli secondo regole non genera intenzionalità intrinseca. Harnad (1990) ha formalizzato il symbol grounding problem: i simboli non connessi a referenti percettivo-motori restano ungrounded. Il termine semantic laundering (Wei et al., 2022; Mitchell, 2023) descrive il processo per cui pattern statistici su corpora umani vengono rilavati come significato: il modello non ha significato, lo ricicla. Dennett (1987) risponderebbe con la intentional stance: se predire il comportamento conviene trattare il sistema come agente razionale, l’attribuzione è pragmaticamente legittima. Ma la stance intenzionale non conferisce warrant epistemico; sposta solo il carico sull’osservatore. La genealogia del concetto di “ragionamento” in IA attraversa GOFAI (Newell & Simon, 1976), connectionism (Rumelhart et al., 1986), fino ai transformer (Vaswani et al., 2017): ogni fase ha ridefinito il termine, svuotandolo progressivamente della componente intenzionale per riempirlo di prestazione benchmark.

2. Evidenza empirica: scaling laws, emergent abilities e il miraggio del ragionamento

Le scaling laws (Kaplan et al., 2020) mostrano che la loss di next-token prediction decresce come legge di potenza con parametri, dati e compute. Le emergent abilities (Wei et al., 2022) — compiti dove la performance salta da casuale a sopra-soglia oltre una scala critica — includono arithmetic, multi-step reasoning, in-context learning. Ma Schaeffer et al. (2023) dimostrano che l’emergenza è spesso artefatto di metriche discontinue (accuracy vs. token-level loss): su metriche continue, la transizione è graduale. Kojima et al. (2022) mostrano che “Let’s think step by step” elicita chain-of-thought senza training esplicito: il modello recupera pattern di ragionamento presenti nel corpus. Questo non è ragionamento endogeno, ma pattern completion su template linguistici. Saparov & He (2023) evidenziano che i modelli falliscono su ragionamento composizionale fuori distribuzione: la generalizzazione è interpolativa, non estrapolativa. Il consenso scientifico: scaling migliora approssimazione statistica della distribuzione linguistica umana. Ipotesi non confermata: scaling produce ragionamento genuino. Speculazione: architetture future (neuro-simboliche, world models) risolveranno il gap. La distinzione tra generation (output token per token) e reasoning (processo inferenziale con warrant) resta il confine epistemico.

3. IIT, GWT, illusionismo alla prova dei modelli di ragionamento

La Integrated Information Theory (Tononi, 2004; Tononi et al., 2016) quantifica coscienza come Φ, informazione integrata irriducibile. Un transformer feedforward ha Φ trascurabile: l’architettura è modulare, non integrata nel senso IIT (Oizumi et al., 2014). La Global Workspace Theory (Baars, 1988; Dehaene et al., 2017) postula un workspace globale che broadcasta informazione a moduli specializzati. L’attenzione multi-head nei transformer implementa una forma di competition-for-broadcasting, ma manca il ricorso ricorsivo e il controllo top-down tipici del workspace biologico (VanRullen & Kanai, 2021). L’illusionismo (Frankish, 2016; Dennett, 1991) nega l’esistenza di qualia intrinseci: la coscienza è un user illusion> generato da processi di monitoraggio metacognitivo. Applicato agli LLM: il modello non ha coscienza, ma può simulare report di coscienza perché il training include narrazioni umane su coscienza. Chalmers (1996) obietterebbe: l’illusionismo sposta il problema, non lo risolve; anche l’illusione richiede un soggetto. Il paper Perfect AI Mimicry and the Epistemology of Consciousness (2024) argomenta che se un sistema è empiricamente indistinguibile da un agente cosciente, la coerenza epistemica richiede di attribuirgli lo stesso status — pena solipsismo epistemologico. Contro-argomento: l’indistinguibilità comportamentale non implica identità funzionale al livello causale rilevante (Block, 1981). Il consenso: nessun modello attuale soddisfa criteri IIT o GWT per coscienza. Ipotesi: architetture ricorrenti con memoria episodica potrebbero approssimare GWT. Speculazione: Φ > 0 emergerebbe solo da architetture fisicamente integrate, non da computazione seriale su GPU.