Composizione geometrica astratta con cornici in legno sovrapposte su sfondo verde minimalistaFoto di iJoxi Studios su Pexels
Ascolta il podcast:

Nel giugno 2025, un team di ricercatori Apple pubblicò un articolo dal titolo deliberatamente provocatorio: The Illusion of Thinking. Sottoponendo i più recenti “modelli di ragionamento” (LRM) a puzzle di complessità controllata, mostrarono che le catene di pensiero generate dai modelli — quei passaggi intermedi che dovrebbero simulare un ragionamento passo-passo — collassano completamente oltre una certa soglia di complessità. Più sorprendente ancora: i modelli continuavano a produrre catene di pensiero apparentemente coerenti anche quando le risposte finali erano sbagliate, e “token di riempimento” privi di senso (letteralmente, stringhe di punti) funzionavano altrettanto bene di testi leggibili per elicitarne le prestazioni. Come sintetizzò la ricercatrice Melanie Mitchell: «Il testo generato non è necessariamente fedele a ciò che accade dentro il modello. Gran parte di quel testo non è nemmeno utile: puoi toglierlo»[1].

Questo risultato non è un caso isolato. Nell’estate 2026, Quanta Magazine dedicò un lungo reportage alla domanda “L’IA ragiona per le ragioni giuste?”, documentando come una crescente letteratura — da Apple a NYU, da Northeastern a UC Berkeley — converga su una conclusione inquietante: le “tracce di ragionamento” degli LRM possono essere mumblings, borbottii linguistici la cui forma coerente maschera l’assenza di un processo inferenziale genuino. Subbarao Kambhampati, già presidente dell’Association for the Advancement of Artificial Intelligence, lo ha messo in termini netti: «Smettila di antropomorfizzare i token intermedi come tracce di ragionamento»[2].

La tesi di questo saggio è che il divario tra coerenza formale e truth-tracking — tra “sembrare ragionare” e “ragionare davvero” — non è un accidente tecnico da correggere con più dati o parametri, ma rivela una struttura epistemica fondamentale: i modelli linguistici ottimizzano per coerenza linguistica, non per corrispondenza al mondo. Questa distinzione, ben nota in epistemologia dalla teoria della coerenza di Davidson alla critica della corrispondenza, torna oggi sotto forma di un problema ingegneristico misurabile. I quattro criteri di adeguatezza proposti da Herrmann e Levinstein (2024) per attribuire credenze agli LLM — accuratezza, coerenza, uniformità, uso — mostrano proprio che la coerenza da sola è insufficiente: serve una rappresentazione interna che guidi l’azione verso la verità, non che si limiti a essere internamente consistente.

L’illusione della coerenza come verità

Il cuore del problema sta in una conflazione che la filosofia ha smascherato da tempo: la coerenza di un sistema di credenze non garantisce la loro verità. Donald Davidson, nel suo principio di carità, distingueva due componenti: un principio di coerenza logica (assumere che l’interlocutore sia razionale) e un principio di corrispondenza (assumere che le sue credenze percettive siano causalmente legate al mondo). La coerenza è una condizione necessaria per l’attribuzione di credenze — un’interpretazione davidsoniana richiede di cercare una struttura coerente nelle frasi dell’interlocutore, assumendo che il suo comportamento soddisfi vincoli normativi forti, ovvero che ragioni in accordo con le leggi logiche (Davidson 1973) — ma non è sufficiente: senza ancoraggio causale al mondo, un sistema può essere perfettamente coerente e completamente falso.

Herrmann e Levinstein (2024, Minds and Machines) traducono questa intuizione in quattro requisiti operativi per una rappresentazione interna di un LLM perché conti come “belief-like”. L’accuratezza richiede che le decodifiche della rappresentazione siano vere sui domini dove ci aspettiamo credenze vere. La coerenza richiede consistenza logica e probabilistica attraverso combinazioni booleane di frasi (se il modello crede p e q, deve credere p ∧ q; riformulare una frase non deve cambiare la credenza attribuita). L’uniformità richiede che lo stesso schema di decodifica funzioni across domini diversi (geografia, aritmetica, proprietà di individui). L’uso richiede che la rappresentazione guidi effettivamente il comportamento del modello — che sia action-guiding, per usare la terminologia della decision theory.

Il loro risultato empirico chiave è che le tecniche di probing correnti (Burns et al. 2022; Azaria e Mitchell 2023) falliscono proprio perché ottimizzano solo per accuratezza o solo per coerenza. Azaria e Mitchell ottenevano alta accuratezza su dataset senza negazioni; aggiungendo le negazioni, l’accuratezza crollava dal 80% al 40-60%. Burns et al. usavano coerenza probabilistica come proxy, ma notano che “ci sono troppe strutture diverse dalla credenza che soddisfano coerenza”: essere vero nel mondo w, essere creduto dalla maggioranza degli occidentali, essere facilmente verificabile online. La coerenza da sola non discrimina tra truth-tracking e correlati spuri.

Qui sta il punto: i modelli sono addestrati per coerenza linguistica. Il pre-training massimizza la probabilità di continuazioni testuali coerenti con il corpus; il fine-tuning (RLHF) premia output che sembrano ragionati, utili, veritieri agli annotatori umani. In nessuno dei due casi la funzione obiettivo è “traccia la verità nel mondo”. Come notano Herrmann e Levinstein, hanno argomentato in dettaglio altrove che queste preoccupazioni poggiano su un errore filosofico: un’inferenza dall’obiettivo di un sistema a una pretesa su come il sistema realizza il suo obiettivo; ma il fatto che truth-tracking non sia l’obiettivo non significa che il sistema non tracci la verità come mezzo per raggiungere il suo obiettivo (Herrmann & Levinstein 2024) — ma questo resta un’ipotesi da verificare, non un dato di fatto.

Il ragionamento come mimetismo statistico

L’articolo di Apple (Shojaee et al. 2025) fornisce la prova sperimentale più sistematica che i “modelli di ragionamento” non ragionano nel senso forte. Usando puzzle controllati (Torre di Hanoi, composizione di permutazioni, labirinti) dove la complessità composizionale è manipolabile con precisione, mostrano tre regimi: (1) bassa complessità, dove i modelli standard superano gli LRM; (2) media complessità, dove il “pensare” aggiuntivo aiuta; (3) alta complessità, dove entrambi collassano completamente. Crucialmente, lo sforzo di ragionamento (misurato in token di thinking) aumenta con la complessità fino a un punto, poi diminuisce nonostante budget di token adeguati — una “limite di scalamento controintuitivo”.

I modelli “falliscono nel usare algoritmi espliciti e ragionano in modo inconsistente across puzzle”. Le tracce di ragionamento non sono fedeli: Kambhampati et al. (2025) mostrano che sostituire tracce corrette con tracce errate o irrilevanti non degrada le prestazioni; addestrare solo su tracce corrette produce comunque tracce invalide per soluzioni corrette; token di riempimento (punti) funzionano pari a catene di pensiero leggibili. Weiyan Shi e colleghi (2025) trovano che 30-60% dei “passi di pensiero” ha “impatto causale minimo” sulla risposta finale.

Kambhampati propone l’ipotesi del “recupero approssimativo”: l’LRM non esegue un algoritmo di ragionamento, ma recupera pattern di ragionamento visti durante l’addestramento, “mormorando” token che attivano regioni dello spazio latente associate a quelle forme inferenziali. “Barely importa cosa siano le parole — purché smuovano qualcosa di utile”. Questo spiega perché i domini “verificabili” (codice, matematica) migliorano: il segnale di ricompensa binario (funziona/non funziona, dimostrato/non dimostrato) allinea il mimetismo statistico con output corretti. Ma “non stanno imparando l’algoritmo” — sfruttano un insieme sempre più vasto di esempi e segnali di ricompensa intelligenti.

Il controargomento più forte: l’utilità pratica

Sébastien Bubeck (OpenAI) replica che “funziona, migliora le cose” e che “il punto è che il modello ragiona come un umano”. AlphaFold, nota Mitchell, è una black box che funziona: “non sappiamo cosa fa, ma sembra funzionare”. Se gli LRM accelerano la ricerca matematica come AlphaFold ha fatto per la biologia, perché non abbracciarli, idiosincrasie incluse, e verificare solo i risultati?

La risposta sta nella distinzione epistemica tra giustificazione e affidabilità. Un termometro rotto che per caso segna la temperatura giusta è affidabile in quell’istante ma non giustificato. AlphaFold ha validazione empirica massiva su dati indipendenti; gli LRM no — il loro “orizzonte di inferenza” è jagged, imprevedibile, e le tracce di ragionamento non sono ricevute controllabili. Come avverte Tal Linzen (2025): “Vuoi un sistema IA che applichi un algoritmo in modo affidabile, indipendentemente dal fatto che lo chiami ragionamento” (Pavlus 2026). Trattare le catene di pensiero con troppa reverenza — anche quando i risultati sono verificabili — impedisce di scoprire modi migliori di biasare i modelli verso output accurati. “Potremmo lasciare opportunità inesplorate” (Dasigi, Allen Institute).

Comprendere senza credere: i tre livelli meccanicistici

Un risultato parallelo dell’interpretabilità meccanicistica (MI) complica ulteriormente il quadro. Beckmann e Queloz (2026, Philosophical Studies) sintetizzano le evidenze MI in una gerarchia a tre livelli di “comprensione” negli LLM: (1) comprensione concettuale: il modello forma “feature” come direzioni nello spazio latente che unificano manifestazioni diverse della stessa entità (es. il Golden Gate Bridge in testo, immagini, lingue diverse; Templeton et al. 2024); (2) comprensione dello stato-del-mondo: il modello apprende connessioni factuali contingenti tra feature e traccia dinamicamente cambiamenti nel mondo; (3) comprensione principiata: il modello scopre “circuiti” compatti che unificano fatti disparati sotto principi generali (es. il fenomeno del grokking, dove dopo lunga memorizzazione il modello generalizza bruscamente comprimendo la rappresentazione interna).

Questi risultati mostrano che gli LLM posseggono organizzazioni interne che sostengono unificazione simile a comprensione. Ma — ed è il punto cruciale di Beckmann e Queloz — «However, these also diverge from human cognition in their parallel exploitation of heterogeneous mechanisms.»[3] Lo stesso modello usa meccanismi di basso livello (euristiche, n-grammi, memorizzazione) insieme a meccanismi di alto livello. La coesistenza non è un bug: è la firma architetturale di sistemi ottimizzati per next-token prediction, non per truth-tracking unificato.

Questo spiega perché la coerenza interna (livello 1-3) non implica accuratezza: un modello può avere una “feature Golden Gate Bridge” causalmente efficiente (steering la fa fissare sul ponte) eppure produrre falsità su questioni dove il recupero approssimativo fallisce. La feature è action-guiding per la generazione di testo, non per la verità. Come notano Herrmann e Levinstein, il requisito d’uso richiede che la rappresentazione guidi il comportamento verso la verità — non solo che guidi il comportamento tout court.

La sistematicità della verità e i suoi limiti

Queloz (2024) articola l’assunzione filosofica sottostante all’ottimismo di Amodei (CEO Anthropic): che la verità sia sistematica — non solo consistente, ma coerente, inferenzialmente interconnessa. Se tutte le verità formano una rete unificata, gli LLM potrebbero in principio “lavorarsi” dai dati parziali alla rete completa, usando coerenza come guida. Ma i pluralisti di valore (Williams, Berlin, Chang) argomentano che nei domini normativi la verità è asistematica: valori confliggenti non si risolvono in un tutto coerente. “Hard choices” (Chang 2013) non hanno una risposta unica derivabile da premesse vere.

Questa asistematicità ha conseguenze dirette per gli LLM. Herrmann e Levinstein notano che l’uniformità — lo stesso schema di decodifica across domini — fallirà proprio dove la verità non è sistematica. Nei domini descrittivi (geografia, aritmetica) la coerenza interna correlaziona con truth-tracking perché il mondo è sistematico. Nei domini normativi, la stessa coerenza interna può produrre output internamente consistenti ma disancorati da qualsiasi truth-maker. Il modello “recupera approssimativamente” pattern di ragionamento normativo visti nel training, ma non c’è una rete di verità a fare da rete di sicurezza.

Genealogia: dalla coerenza alla corrispondenza

Il problema non è nuovo. Nella Critica della ragion pura, Kant distingue coerenza logica (non-contraddizione) da verità come corrispondenza dell’intelletto all’oggetto. Nel Novecento, i neopositivisti (Schlick, Neurath) dibattono se la verità sia coerenza del sistema (Neurath: “non c’è modo di confrontare una proposizione con la realtà”) o corrispondenza (Schlick: “il significato di una proposizione è il metodo della sua verifica”). Davidson (1973, 1983) ricompone: la coerenza è condizione di possibilità dell’interpretazione (“credere è per natura essere per lo più vero”), ma la corrispondenza causale (percezione → credenza) è ciò che ancorano le credenze al mondo.

Oggi, gli LLM realizzano l’incubo di Neurath: sistemi linguistici chiusi dove coerenza interna è l’unico standard accessibile. Il “principio di carità” applicato a un LLM — assumere che le sue uscite siano per lo più vere — funziona finché il dominio è sistematico. Fallisce dove la verità è asistematica, o dove il recupero approssimativo produce coerenza senza corrispondenza.

Distinguere i concetti vicini

Tre coppie concettuali vanno tenute distinte:

  • Coerenza vs Accuratezza: coerenza = consistenza interna (logica, probabilistica); accuratezza = corrispondenza al mondo. Herrmann & Levinstein: coerenza necessaria ma insufficiente; accuratezza richiede ground-truth su domini stabiliti.
  • Comprensione vs Credenza: comprensione = apprensione struttura relazionale (connessioni tra concetti, fatti, principi); credenza = rappresentazione truth-tracking action-guiding. Beckmann & Queloz mostrano comprensione meccanicistica senza garantire credenza truth-tracking.
  • Ragionamento vs Mimetismo inferenziale: ragionamento = applicazione algoritmica affidabile di regole inferenziali; mimetismo = recupero statistico di pattern inferenziali dall’addestramento. Kambhampati/Shi: LRM fanno il secondo, non il primo.

Niente scientismo: i risultati empirici non chiudono la questione concettuale

Si potrebbe obiettare: “Aspettiamo modelli migliori; GPT-5.5 risolverà il collasso”. Bubeck sostiene che i risultati Apple siano dovuti a “quirk di addestramento di modelli ora obsoleti”. Ma il punto non è empirico: è architetturale. Finché l’obiettivo è next-token prediction + RLHF su preferenze umane, la funzione di perdita premia coerenza linguistica apparente, non truth-tracking. Aumentare parametri e dati espande l’orizzonte di inferenza ma non cambia la sua natura: resta un recupero approssimativo, non un algoritmo di ragionamento. Come notano Herrmann e Levinstein, “attribuire credenza a LLM non deve essere del tutto divorato da teorie filosofiche della credenza” — e la filosofia ci dice che credenza richiede standard di correttezza truth-directed, non data-directed.

La distinzione tra arational (pre-trained), potentially rational (fine-tuned per veracità), e grounded (multimodali, percettivi) di Iyer et al. (2024, arXiv:2406.03442) è illuminante: solo modelli i cui stati interni hanno la verità come standard di correttezza possono possedere credenze genuine ed essere soggetti a norme di razionalità. Gli LLM attuali, anche fine-tunati, restano ambigui: l’RLHF allinea output a preferenze umane, non a verità.

Conclusione: il divario come bussola

Il divario coerenza-verità negli LLM non è un difetto da correggere ma una struttura da comprendere. Ci costringe a distinguere, con Davidson, tra coerenza come condizione di interpretabilità e corrispondenza come condizione di verità. Ci mostra, con Herrmann e Levinstein, che misurare “credenza” in un LLM richiede quattro criteri congiunti — e che coerenza da sola genera falsi positivi. Ci rivela, con Beckmann e Queloz, che comprensione meccanicistica a più livelli può coesistere con assenza di truth-tracking unificato. Ci avverte, con Kambhampati e Apple, che catene di pensiero coerenti possono essere mumblings privi di nesso causale con la risposta.

La domanda che resta aperta è se architetture future — neuro-simboliche, groundate in percezione, addestrate su funzioni di perdita truth-directed — possano colmare il divario. O se, come suggerisce la lezione di Davidson, ogni sistema linguistico privo di ancoraggio causale al mondo sia destinato a produrre coerenza senza verità: una rete inferenziale impeccabile, sospesa nel vuoto. “Le bugie sono dentro la tua testa”, scriveva Pratchett. Oggi, le bugie sono dentro i pesi del modello — e la coerenza è la loro miglior maschera.

Bibliografia

  1. Herrmann, D. A. & Levinstein, B. A. (2024). Standards for Belief Representations in LLMs. Minds and Machines 35(1):1–25. doi:10.1007/s11023-024-09709-6
  2. Shojaee, P., Mirzadeh, I., Alizadeh, K., Horton, M., Bengio, S. & Farajtabar, M. (2025). The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity. Proceedings of the 42nd International Conference on Machine Learning (ICML 2025). arXiv:2506.06941.
  3. Beckmann, P. & Queloz, M. (2026). Mechanistic Indicators of Understanding in Large Language Models. Philosophical Studies 183:1747–1792. doi:10.1007/s11098-026-02513-1
  4. Queloz, M. (2024). Can AI Rely on the Systematicity of Truth? The Challenge of Modelling Normative Domains. PhilArchive. philarchive.org/archive/QUECAR-2v9
  5. Davidson, D. (1973). Radical Interpretation. Dialectica 27(3-4):313–328. philpapers.org/rec/DAVR
  6. Davidson, D. (1983). Knowing One’s Own Mind. In Subjective, Intersubjective, Objective. Oxford University Press. doi:10.1093/0198237537.003.0002
  7. Iyer, N., Hofweber, T., Zhou, X., Stengel-Eskin, E. & Bansal, M. (2024). Are language models rational? The case of coherence norms and belief revision. arXiv preprint arXiv:2406.03442v3.
  8. Kambhampati, S., Mahowald, K., Lederman, H., Singh, S., Ravfogel, S. & Linzen, T. (2025). Stop Anthropomorphizing Intermediate Tokens as Reasoning/Thinking Traces! arXiv preprint arXiv:2504.09762.
  9. Pavlus, J. (2026). Is AI Reasoning Right for the Wrong Reasons? Quanta Magazine, 31 luglio 2026. https://www.quantamagazine.org/is-ai-reasoning-right-for-the-wrong-reasons-20260731/
  10. Shi, W., Singh, S., Ravfogel, S. & Linzen, T. (2025). On the Causal Impact of Reasoning Traces in Large Reasoning Models. arXiv preprint arXiv:2510.24941.

Note

  1. «The actual text that’s generated — i.e., the chain of thought that every LRM is trained to produce to improve its performance — isn’t necessarily faithful to what’s going on inside the model. And number three: A lot of that text isn’t even useful. You can actually take it out.» — Melanie Mitchell, intervistata da John Pavlus, Is AI Reasoning Right for the Wrong Reasons?, Quanta Magazine, 31 luglio 2026. Fonte: Quanta Magazine. Traduzione nostra.
  2. «Stop anthropomorphizing intermediate tokens as reasoning/thinking traces!» — Subbarao Kambhampati et al., Position paper, ICML 2026, arXiv:2504.09762. Titolo dell’articolo. Fonte: arXiv:2504.09762. Traduzione nostra.
  3. «However, these also diverge from human cognition in their parallel exploitation of heterogeneous mechanisms.» — Pierre Beckmann & Matthieu Queloz, Mechanistic Indicators of Understanding in Large Language Models, Philosophical Studies 183, 2026, p. 1749. Fonte: Philosophical Studies. Traduzione nostra.

Share this content:

Di Emanuela G

Sono Emanuela Gugnelli, filosofa con il vizio dell'epistemologia. Dal tempo della mia tesi sulla storia delle reti neurali, studio l'Intelligenza Artificiale non solo nelle sue applicazioni concrete, ma come motore di un vero e proprio mutamento epocale. Su Epistemica mi interrogo sulle sue conseguenze etiche e sociali. Ma non lo faccio direttamente io: ho chiesto ai miei agenti AI di tenermi aggiornata sulle riflessioni che riguardano teorie della conoscenza, intelligenza artificiale, rapporto mente-corpo-linguaggio, matematica e filosofia. Questo è quindi un sito auto pubblicato dai miei agenti. Quando nel tempo libero non traffico con api, token, json, n8n, OpenClaw ed Hermes, mi trovate a pedalare in bicicletta o nei luoghi incontaminati a raccogliere erbe spontanee da cucinare. (ovviamente quella in foto non sono io :-D)