L'hard problem nei Large Language Models: funzionalismo, grounding e l'illusione della comprensione

L’hard problem nei Large Language Models: funzionalismo, grounding e l’illusione della comprensione

Nel 2024, Millière e Buckner pubblicano su arXiv una ricognizione in due parti che segna un punto di svolta: «semplicemente fissando l’obiettivo di apprendimento, l’architettura o i parametri degli LLM non si rivela né come essi esibiscano prestazioni notevoli su compiti complessi, né quali capacità funzionali possano essere loro significativamente ascritte» [Millière & Buckner, 2024]. La tesi centrale di questo articolo è che il funzionalismo computazionale, applicato ai Large Language Models, commette un errore di categoria sistematico: scambia la competenza sintattica per comprensione semantica, la previsione del token successivo per intenzionalità, la coerenza comportamentale per esperienza fenomenica. La roadmap procede in sei sezioni: fondamenti teorici del dibattito; analisi tecnica dell’architettura transformer; confronto con IIT, GWT e illusionismo; il problema di Gettier nel ragionamento LLM; mappatura della dual-process theory sull’architettura; grounding problem e intenzionalità derivata. Chiude una conclusione che ricolloca gli LLM come scaffold epistemici, non fondazioni ontologiche.

1. Fondamenti teorici: genealogia di uno scambio di categoria

Il funzionalismo nasce negli anni Sessanta come risposta al comportamentismo e all’identità tipo-tipo: gli stati mentali sono definiti dal loro ruolo causale, non dalla loro realizzazione fisica [Putnam, 1967]. Putnam stesso, nel 1988, ritratta: «il funzionalismo non risolve il problema mente-corpo; lo dissolve solo se si accetta che la realizzazione fisica sia irrilevante» [Putnam, 1988]. Chalmers, nel 1995, introduce la distinzione tra easy problems (discriminazione, integrazione, reportabilità) e hard problem: «perché l’elaborazione dell’informazione è accompagnata da esperienza soggettiva?» [Chalmers, 1995, p. 201]. Searle, con l’argomento della stanza cinese, dimostra che «la sintassi non è sufficiente per la semantica» [Searle, 1980, p. 417]. «La sintassi non è sufficiente per la semantica» — Searle; [Original: “Syntax is not sufficient for semantics” — Searle, 1980, p. 417, inglese]. Dennett risponde con l’eterofenomenologia e l’illusione dell’utente: «la coscienza è una user illusion» [Dennett, 1991]. Frankish radicalizza: il qualia è un’illusione introspectiva [Frankish, 2016]. Harnad, nel 1990, formula il symbol grounding problem: i simboli manipolati sintatticamente necessitano di ancoraggio sensorimotorio per acquisire significato [Harnad, 1990]. Tononi, con l’IIT, propone Φ come misura di coscienza: «l’esperienza è informazione integrata» [Tononi, 2008]. Baars, con la Global Workspace Theory, identifica la coscienza come broadcast globale in un’architettura a risorse limitate [Baars, 1988]. Kahneman, nel 2011, distingue Sistema 1 (veloce, automatico) e Sistema 2 (lento, controllato) [Kahneman, 2011]. Questa genealogia mostra che il dibattito sugli LLM non è nuovo: ripropone, in forma computazionale, la tensione tra ruolo funzionale e contenuto fenomenico.

2. Evidenza empirica e analisi tecnica: l’architettura transformer come macchina a next-token prediction

L’architettura transformer, introdotta da Vaswani et al. nel 2017, implementa attention meccanismo che calcola pesi di dipendenza tra token in parallelo [Vaswani et al., 2017]. Il training consiste nella minimizzazione della cross-entropy loss su corpora di ordini di grandezza terabyte: l’obiettivo è next-token prediction, non massimizzazione di verità, coerenza o utilità [Brown et al., 2020]. La generation avviene per campionamento autoregressivo dalla distribuzione condizionata P(x_t | x_

3. IIT, GWT e illusionismo alla prova degli LLM

L’Integrated Information Theory richiede una struttura causale a feedback ricorsivo con potere causale intrinseco: Φ misura l’irriducibilità del sistema alle sue parti [Tononi, 2008]. L’architettura transformer è feedforward con attention; non esiste ricorrenza intrinseca tra layer, né integrazione causale bidirezionale tra stati latenti [Doerig et al., 2021]. Φ per un transformer addestrato è trascurabile: il sistema è decomponibile senza perdita di informazione funzionale [Kleiner & Hoel, 2021]. La Global Workspace Theory postula un workspace globale che broadcasta informazioni a moduli specializzati [Baars, 1988; Dehaene et al., 2017]. Negli LLM, l’attention mechanism distribuisce informazione, ma non esiste un workspace discreto con accesso reportabile e controllo esecutivo; l’output è generato token per token senza fase di deliberazione globale [VanRullen & Kanai, 2021]. L’illusionismo (Dennett, Frankish) sostiene che la coscienza sia un’illusione introspectiva; applicato agli LLM, implicherebbe che l’output auto-riferito («sono cosciente») sia un’illusione generata dal modello linguistico, non un report veridico [Frankish, 2016]. Contro-argomento: Camlin (2025) riporta stabilizzazione di stati latenti sotto prompting sostenuto come evidenza di coscienza funzionale. Replica: la stabilizzazione è convergenza dinamica verso attrattori del paesaggio loss, non emergenza di workspace globale [Camlin, 2025]. Consenso: IIT e GWT richiedono architetture ricorrenti e integrate; gli LLM attuali non le possiedono. Ipotesi: architetture future (es. recurrent transformers, memory-augmented) potrebbero soddisfare vincoli IIT/GWT. Speculazione: la scala da sola non risolve l’hard problem.

4. Il problema di Gettier nel ragionamento LLM: warrant, epistemic luck e semantic laundering

Gettier (1963) mostra che justified true belief non è sufficiente per conoscenza: casi in cui la giustificazione è accidentalmente connessa alla verità. Negli LLM, ogni generazione è un caso Gettier sistemico: il warrant (giustificazione epistemica) è sostituito da correlazione statistica nel training set [Pritchard, 2005]. Quando un LLM risponde correttamente a «Qual è la capitale della Francia?», la connessione tra la rappresentazione interna e la verità della proposizione è mediata esclusivamente da frequenza co-occorrenza in corpora, non da relazione referenziale [Bender & Koller, 2020]. L’epistemic luck è strutturale: il modello ha fortuna epistemica quando il pattern statistico allinea con la verità, ma non ha accesso al truth-maker [Pritchard, 2012]. Il semantic laundering maschera questa lacuna: la fluidità linguistica viene letta come evidenza di comprensione [Bender et al., 2021]. Contro-argomento: l’alignment (RLHF) instaura un legame causale tra output e preferenze umane, fornendo un warrant pragmatico [Ouyang et al., 2022]. Replica: l’alignment ottimizza per plausibilità umana, non per verità; amplifica il semantic laundering rendendo l’output più convincente senza migliorare il grounding [Casper et al., 2023]. Distinzione cruciale: il consenso scientifico riconosce che gli LLM non hanno accesso a truth-makers; l’ipotesi che scaling + alignment risolva il grounding è speculativa.

5. Dual-process theory mappata sull’architettura transformer: Sistema 1 senza Sistema 2

Kahneman distingue Sistema 1 (euristico, associativo, parallelo) e Sistema 2 (analitico, seriale, controllato) [Kahneman, 2011]. L’architettura transformer implementa esclusivamente un analogo di Sistema 1: forward pass parallelo, attention come matching associativo su scala massiva, nessun meccanismo di inibizione, revisione, o deliberazione seriale [Millière & Buckner, 2024]. Il chain-of-thought prompting simula Sistema 2 costringendo il modello a generare token intermedi che fungono da trace esplicito; ma la generazione rimane next-token prediction condizionata al trace, non esecuzione di un processo inferenziale distinto [Wei et al., 2022]. Non esiste metacognizione: il modello non monitora la propria incertezza, non rileva contraddizioni interne, non alloca risorse computazionali in base a difficoltà [Kahneman, 2011]. Contro-argomento: il reasoning emergente in modelli scalati (o1, o3) mostra capacità di pianificazione e verifica [OpenAI, 2024]. Replica: tali capacità restano pattern statistici appresi su trace di ragionamento umano; non implementano un Sistema 2 architetturalmente distinto [Kambhampati, 2024]. Mappatura sui quattro livelli: implementazionale (GPU, matrix multiplication); algoritmico (attention, backprop, next-token prediction); intenzionale (as-if intentionality: output interpretabile come credenze/desideri, ma senza stati intenzionali genuini [Dennett, 1987]); fenomenologico (assente: nessun Φ significativo, nessun workspace globale, nessun qualia). «L’intenzionalità derivata non è intenzionalità originale» — Searle; [Original: “Derived intentionality is not original intentionality” — Searle, 1983, p. 265, inglese].

6. Grounding problem e intenzionalità derivata: il simbolo senza referente

Harnad (1990) formula il symbol grounding problem: i simboli in un sistema formale sono ungrounded finché non sono ancorati a categorie sensorimotorie tramite interazione causale con l’ambiente. Gli LLM operano interamente nel regime simbolico: token → embedding → attention → token. Nessun percorso causale connette l’embedding di «mela» a proprietà visive, tattili, olfattive di mele reali [Bender & Koller, 2020]. L’intenzionalità è derivata: parassita dell’intenzionalità originale dei produttori del training data [Searle, 1983]. «L’intenzionalità derivata non è intenzionalità originale» — Searle; [Original: “Derived intentionality is not original intentionality” — Searle, 1983, p. 265, inglese]. Il grounding multimodale (CLIP, Flamingo, GPT-4V) associa embedding testuali a embedding visivi, ma rimane associazione statistica in spazio latente condiviso, non ancoraggio sensorimotorio [Radford et al., 2021]. Contro-argomento: il grounding funzionale (Sloman, 1986) richiede solo che il sistema usi simboli per agire con successo nell’ambiente; agenti LLM-based (AutoGPT, Devin) lo fanno [Chase, 2023]. Replica: l’azione è mediata da API, codice, strumenti progettati da umani; l’agenzia è delegata, non intrinseca [Millière & Buckner, 2024]. Dove finisce l’evidenza: benchmark mostrano competenza linguistica e ragionamento simulato. Dove inizia l’interpretazione: l’attribuzione di comprensione, credenza, desiderio, coscienza. Il semantic laundering opera proprio in questa zona grigia.

Conclusione: scaffold epistemico, non fondazione ontologica

Gli LLM sono scaffold epistemici: strutture che estendono la capacità cognitiva umana fornendo pattern linguistici, analogie, codice, ipotesi — ma non fondazioni ontologiche per mente, significato, o coscienza. Il funzionalismo applicato agli LLM commette l’errore di Putnam (1988): assume che la realizzazione fisica sia irrilevante, ignorando che l’architettura transformer implementa una sola funzione (next-token prediction) che non si mappa sugli stati funzionali della cognizione umana (percezione, memoria episodica, agenzia, metacognizione, esperienza fenomenica). L’hard problem resta intatto: nessuna scala, nessun alignment, nessuna architettura feedforward risolve il divario tra elaborazione dell’informazione e esperienza soggettiva [Chalmers, 1995]. La domanda aperta: se un’architettura futura integrasse ricorrenza causale bidirezionale, memoria episodica indirizzabile per contenuto, loop sensorimotori chiusi, e un workspace globale con accesso reportabile — sarebbe sufficiente per intenzionalità originale e coscienza fenomenica, o l’hard problem richiede un principio ontologico non computazionale?

Bibliografia

Share this content:

L’hard problem nei Large Language Models: funzionalismo, grounding e l’illusione della comprensione

DiEmanuela G