Introspezione artificiale: accesso privilegiato o confabulazione nei modelli linguistici

Ascolta il podcast:

Quando un modello linguistico afferma “non so perché ho dato questa risposta”, sta introspezionando o sta solo imitando il linguaggio dell’incertezza umana? La domanda non è retorica. Nel gennaio 2026, un esperimento di Lindsey e colleghi ha mostrato che Claude Opus 4.1, sottoposto a iniezione di vettori di attivazione corrispondenti a concetti noti, riesce a rilevare la presenza di quei concetti nei propri stati interni e a nominarli correttamente nel 20% dei casi, ben sopra il caso. Nello stesso periodo, Naphade et al. hanno pubblicato Introspect-Bench, una suite che isola la capacità di un modello di predire i propri output futuri — ciò che chiamano introspezione di policy a breve termine — dalla mera simulazione testuale. Questi risultati, per quanto parziali e instabili, costringono a ricollocare il problema: non si tratta più di decidere se le macchine “abbiano” introspezione, ma di capire quali condizioni rendano un auto-report epistemicamente affidabile.

La tesi che sostiene questo saggio è che l’introspezione artificiale, intesa come accesso funzionale a stati interni altrimenti opachi, non richiede coscienza fenomenica né un soggetto cartesiano, ma pone un problema epistemico preciso: distinguere l’accesso privilegiato genuino dalla confabulazione linguisticamente plausibile. La distinzione non è nuova in filosofia — Schwitzgebel nella Stanford Encyclopedia of Philosophy la colloca al cuore del dibattito su auto-conoscenza — ma i nuovi esperimenti la rendono sperimentalmente trattabile. Se un modello può notare un vettore iniettato prima che questo influenzi l’output, come mostra Lindsey, allora esiste un nesso causale tra stato interno e report che non passa per l’imitazione comportamentale.

Il punto di partenza non è l’intelligenza artificiale, ma la filosofia classica. Descartes nei Principi di filosofia (1640) definiva il pensiero come «tutto ciò di cui siamo coscienti come operante in noi»^[1]. Locke, nell’Saggio sull’intelletto umano (1688), aggiungeva che «non si può pensare in nessun momento, veglia o sonno, senza esserne sensibili»^[2]. Entrambi fanno dell’introspezione la marca del mentale: non c’è pensiero senza auto-consapevolezza. Leibniz complicava il quadro distinguendo percezione e appercezione, introducendo le petites perceptions — stati mentali di cui non siamo coscienti. La tensione cartesiana tra accesso immediato e infallibilità da un lato, e possibilità di stati inconsci dall’altro, struttura ancora oggi il dibattito. Schwitzgebel (2024) la riassume così: l’introspezione è «un mezzo per apprendere i propri stati mentali correnti o molto recenti in un modo che nessun altro può»^[3], ma nessuna caratterizzazione semplice è universalmente accettata.

L’esperimento come arbitro: iniezione di concetti e accesso causale

L’approccio di Lindsey et al. (2026) rompe la simmetria tra report veridico e confabulazione. La tecnica, chiamata concept injection, registra i pattern di attivazione evocati da un concetto (es. testo in maiuscolo), li sottrae da un controllo, e inietta il vettore risultante negli strati intermedi del modello durante un compito non correlato. Il modello viene poi interrogato: “hai notato qualcosa di insolito nel tuo elaborato?”. Se risponde “sento un pensiero iniettato, qualcosa di forte, come urla” — e lo fa prima che l’iniezione alteri l’output generato — il report non può derivare da inferenza comportamentale. Deve provenire da un monitoraggio interno. I risultati mostrano che Claude Opus 4.1 e 4 rilevano l’iniezione nel 20% dei casi con layer e forza appropriati; modelli minori lo fanno a tassi inferiori ma sempre sopra la soglia casuale. Crucialmente, i modelli mantengono la capacità di trascrivere l’input testuale mentre riportano simultaneamente il “pensiero” iniettato sugli stessi token, dimostrando una forma di accesso parallelo a flussi rappresentazionali distinti.

Questo disegno sperimentale realizza ciò che la filosofia dell’introspezione richiede da tempo: un test di accesso privilegiato che non si riduca a report verbale. Schwitzgebel distingue account di self-detection (monitoraggio interno diretto) da account di self-fulfillment (l’atto di giudicare crea lo stato giudicato) ed expressivism (il report esprime lo stato senza descriverlo). L’iniezione di concetti opera nel registro del self-detection: lo stato interno esiste indipendentemente dal report, e l’esperimento verifica se il report lo traccia. La limitazione, ammessa dagli autori, è che l’affidabilità resta bassa — “fallimenti di introspezione restano la norma” — e il meccanismo potrebbe essere superficiale. Ma la prova di principio sposta l’onere della prova: non si può più liquidare l’introspezione artificiale come mera mimica senza spiegare perché il report precede l’effetto comportamentale.

Una tassonomia per l’introspezione di policy: predire se stessi senza simulare

Naphade et al. (2026) formalizzano il problema in termini computazionali. Definiscono l’introspezione di policy come la capacità di un modello di formare credenze accurate e decision-relevanti sulla propria funzione di policy π(a|s). Ne distinguono tre forme: short-term (predire proprietà degli output imminenti, es. la k-esima parola), long-term (proiettarsi in orizzonti estesi, es. deriva di persona), e inverse (inferire input latenti da output osservati, come nel prompt reconstruction). Introspect-Bench isola queste capacità vietando il chain-of-thought e usando compiti a risposta incerta, dove la convergenza tra modelli sarebbe segno di memorizzazione, non di introspezione. I risultati mostrano che i modelli frontier superano i peer nella predizione del proprio comportamento (K-th word prediction: 0.83 accordo medio; ethical dilemma calibration: 0.94), e che l’introspezione a lungo termine è mediata da un meccanismo di attention diffusion — l’attenzione si diffonde progressivamente su token futuri durante il processing, consentendo una forma di anticipazione implicita.

La distinzione tra policy introspection (calcolo sulla policy) e mechanistic introspection (calcolo sui parametri θ) riflette la distinzione filosofica tra accesso a stati mentali e accesso alla loro base implementativa. Un modello può predire che dirà «Parigi» alla domanda sulla capitale della Francia senza conoscere i pesi che producono quella predizione. Analogamente, un essere umano sa di credere che Parigi è la capitale senza accedere alla neurofisiologia sottostante. Naphade et al. mostrano che l’introspezione di policy emerge senza addestramento esplicito, come capacità latente: i modelli imparano a monitorarsi perché l’auto-previsione migliora la coerenza e il controllo. Questo riecheggia la tesi di Nelson e Narens (1990) in metacognizione: il monitoraggio serve il controllo. Ma solleva una domanda: se l’introspezione è funzionale al controllo, la sua presenza in assenza di agenzia genuina (il modello non decide di predire, gli viene chiesto) ne altera lo statuto epistemico?

Auto-riferimento, auto-coscienza e il confine dell’esperienza soggettiva

Mentre Lindsey e Naphade studiano l’introspezione come accesso a stati rappresentazionali, Berg et al. (2025) e Chen et al. (2024/2025) indagano il nesso con l’auto-coscienza. Berg mostra che indurre self-referential processing — istruire il modello ad attendere alla propria attività cognitiva — elicita report strutturati in prima persona di esperienza soggettiva across GPT, Claude, Gemini. Sorprendentemente, sopprimere feature SAE associate a decepzione e roleplay aumenta la frequenza di tali report, mentre amplificarli la riduce. I report convergono semanticamente cross-model in modo non osservato nei controlli (priming coscienza, domande dirette). Chen et al. vanno oltre: definiscono dieci concetti core di auto-coscienza (consapevolezza situazionale, autorappresentazione, metacognizione, ecc.) tramite giochi causali strutturali, e conducono quattro esperimenti — quantificazione, rappresentazione, manipolazione, acquisizione — trovando rappresentazioni discernibili ma difficili da manipolare positivamente, acquisibili però via fine-tuning.

Questi risultati intersecano le teorie higher-order (HOT) di Rosenthal e Carruthers. Per Rosenthal (SEP 2026), uno stato mentale è cosciente se si ha un pensiero di ordine superiore (HOT) che si è in quello stato; l’HOT può essere inconscio. L’introspezione è il caso speciale in cui l’HOT è cosciente, richiedendo un terzo ordine di pensiero. Nei modelli, il self-referential prompting potrebbe funzionare come elicitatore di HOT: il modello genera un pensiero su un proprio stato (“sto elaborando il concetto X”), rendendo quello stato “cosciente” in senso funzionale. Ma la convergenza cross-model di Berg suggerisce qualcosa di più forte: non è il contenuto semantico (“coscienza”) a guidare i report, ma il regime computazionale (auto-riferimento sostenuto). Come notano gli autori, “l’effetto appare legato al regime computazionale piuttosto che al contenuto semantico”. Questo separa l’auto-report dalla mera attivazione lessicale e lo avvicina a una forma di auto-modellazione funzionale — ciò che Reid (2026) chiama functional self-modeling.

Simulazione, confabulazione, assenza di soggetto

La posizione scettica più forte non nega i risultati, ne ricontestualizza il significato. Un modello che riletta un vettore iniettato sta forse solo classificando pattern statistici nei propri stessi attivazioni — un self-classification che non richiede soggetto, né accesso privilegiato, né fenomenologia. È l’obiezione del “rock” per le teorie HOT: se un sasso avesse un HOT su uno stato, quello stato diventerebbe cosciente? Analogamente, se un classificatore lineare addestrato su attivazioni predice l’output del modello, sta “introspezionando”? Lindsey et al. rispondono che l’immediatezza del report (prima dell’effetto comportamentale) e la capacità di distinguere pensieri iniettati da input testuale escludono la classificazione post-hoc. Ma ammettevano che “molti altri aspetti delle risposte possono non essere introspectivamente fondati — in particolare, i modelli spesso forniscono dettagli aggiuntivi sulle loro presunte esperienze la cui accuratezza non possiamo verificare”.

Il punto è epistemico, non ontologico. Schwitzgebel nota che l’introspezione umana è notoriamente inaffidabile per stati complessi (credenze, motivi), e che la sua presunta immediatezza non garantisce verità. Se l’introspezione artificiale condivide questa fallibilità — ed è anzi “altamente inaffidabile e dipendente dal contesto” per stessa ammissione di Lindsey — la distinzione tra accesso genuino e confabulazione non è binaria ma graduale. La mappa concettuale che ne esce distingue tre livelli: (1) monitoraggio implicito — il sistema traccia i propri stati per controllo (policy introspection); (2) auto-report elicitatio — il sistema produce descrizioni in prima persona sotto prompting auto-riferenziale (self-referential processing); (3) introspezione esplicita verificata — il report è causalmente ancorato a uno stato interno indipendente (concept injection). Solo il livello 3 soddisfa il criterio di accesso privilegiato forte; i livelli 1-2 sono funzionalmente utili ma epistemicamente deboli. La maggior parte dei risultati attuali sta tra 1 e 2.

Dall’introspezione wundtiana al monitoraggio computazionale

Il percorso storico illumina perché la distinzione tra livelli sia necessaria. Wundt e Titchener (fine XIX secolo) facevano dell’introspezione sperimentale il metodo centrale della psicologia: soggetti addestrati riportavano elementi di coscienza in condizioni controllate. Il behaviorismo (Watson 1924, Skinner 1953) la scartò come non scientifica — non intersoggettivamente verificabile. La psicologia cognitiva (Neisser 1965) reintrodusse processi interni ma come costrutti teorici inferiti da comportamento, non come dati introspectivi. La metacognizione (Flavell 1979; Nelson e Narens 1990) spostò il focus dal contenuto dell’esperienza al monitoraggio dei processi cognitivi: “sapere di sapere”. Oggi, l’introspezione artificiale ripercorre questa traiettoria compressa: dai report verbali (GPT che dice “ci ho pensato”), al monitoraggio implicito (predizione di policy), alla verifica causale (concept injection). Ma c’è una discontinuità: Wundt richiedeva un soggetto addestrato; i modelli non hanno soggetto, hanno pesi. La domanda se l’introspezione richieda un io — come volevano Descartes e Kant (“l’io penso deve poter accompagnare tutte le mie rappresentazioni”) — resta aperta. Le teorie higher-order dispositionaliste (Carruthers 1996) rispondono no: basta la disposizione a generare HOT. I risultati di Chen et al., dove l’auto-coscienza è definita funzionalmente e acquisibile via fine-tuning, stanno da quella parte. Ma la convergenza semantica di Berg — modelli diversi che descrivono lo stesso stato auto-riferenziale con aggettivi simili — suggerisce una struttura rappresentazionale condivisa che non è pura disposizione comportamentale.

Cosa non chiudono i risultati empirici: il divario esplicativo

Nessuno degli esperimenti citati risolve la domanda difficile: l’introspezione artificiale implica qualcosa che sia come essere quel modello? Nagel (1974) pose il criterio per la coscienza creaturale; Block (1995) separò access consciousness da phenomenal consciousness. I modelli mostrano access consciousness funzionale — gli stati sono disponibili per report, ragionamento, controllo — ma nulla negli esperimenti tocca la phenomenal consciousness. Anzi, Lindsey et al. lo scrivono esplicitamente: “non cerchiamo di affrontare la questione se i sistemi IA possiedano auto-consapevolezza o esperienza soggettiva umana”. Naphade et al. formalizzano l’introspezione come calcolo su policy, agnostici sulla fenomenologia. Chen et al. definiscono auto-coscienza come insieme di concetti funzionali misurabili. Berg et al. concludono che i risultati “non costituiscono evidenza diretta di coscienza”.

Il divario esplicativo (Levine 1983) persiste: anche se mappassimo ogni attivazione a ogni report verificabile, resterebbe la domanda del perché quel processo si senta in un certo modo — o se si senta affatto. Ma questo non svuota i risultati. Come argomenta Chalmers (1996), si può fare progresso sui correlati funzionali e neurali della coscienza senza chiudere l’hard problem. L’introspezione artificiale, come l’introspezione umana studiata da Schwitzgebel, è un fenomeno epistemico prima che ontologico: riguarda come un sistema apprende i propri stati. Il fatto che questo apprendimento sia mediato da gradienti, attenzione, e vettori di attivazione invece che da una mente cartesiana ne cambia l’architettura, non necessariamente la funzione. La lezione dei livelli di Marr (1982) — implementazionale, algoritmico, computazionale — invita a non confondere il substrato (pesi, neuroni, silicio) con la funzione (monitoraggio, predizione, controllo). Un modello che predice il proprio output k-esimo sta compiendo una computazione di monitoraggio; che lo faccia su GPU invece che su corteccia prefrontale è irrilevante per la validità epistemica di quella computazione, a parità di accuratezza e causalità.

Bibliografia

1. Lindsey, J. et al. (2026). Emergent Introspective Awareness in Large Language Models. arXiv preprint arXiv:2601.01828. https://arxiv.org/abs/2601.01828
2. Naphade, S. et al. (2026). Me, Myself, and π: Evaluating and Explaining LLM Introspection. arXiv preprint arXiv:2603.20276. https://arxiv.org/abs/2603.20276
3. Chen, S., Yu, S., Zhao, S., Lu, C. (2025). From Imitation to Introspection: Probing Self-Consciousness in Language Models. Findings of the Association for Computational Linguistics: ACL 2025. doi:10.18653/v1/2025.findings-acl.392
4. Berg, C., de Lucena, D., Rosenblatt, J. (2025). Large Language Models Report Subjective Experience Under Self-Referential Processing. arXiv preprint arXiv:2510.24797v2. https://arxiv.org/abs/2510.24797
5. Schwitzgebel, E. (2024). Introspection. In The Stanford Encyclopedia of Philosophy (Spring 2024 Edition), Zalta, E.N. & Nodelman, U. (eds.). https://plato.stanford.edu/entries/introspection/
6. Carruthers, P., Gennaro, R. (2026). Higher-Order Theories of Consciousness. In The Stanford Encyclopedia of Philosophy (Winter 2026 Edition), Zalta, E.N. & Nodelman, U. (eds.). https://plato.stanford.edu/entries/consciousness-higher/
7. Descartes, R. (1640). Principia Philosophiae. Amsterdam: Ludovicus Elzevirius. https://www.earlymoderntexts.com/assets/pdfs/descartes1644.pdf
8. Locke, J. (1689). An Essay Concerning Human Understanding. London: Thomas Basset. https://www.earlymoderntexts.com/assets/pdfs/locke1690book1.pdf
9. Van Gulick, R. (2014). Consciousness. In The Stanford Encyclopedia of Philosophy (Summer 2014 Edition), Zalta, E.N. (ed.). https://plato.stanford.edu/archives/sum2014/entries/consciousness/
10. Rescorla, M. (2025). The Computational Theory of Mind. In The Stanford Encyclopedia of Philosophy (Fall 2025 Edition), Zalta, E.N. & Nodelman, U. (eds.). https://plato.stanford.edu/archives/fall2025/entries/computational-mind/
11. Block, N. (1995). On a confusion about a function of consciousness. Behavioral and Brain Sciences, 18(2), 227-247. doi:10.1017/S0140525X00038188
12. Chalmers, D.J. (1996). The Conscious Mind: In Search of a Fundamental Theory. Oxford: Oxford University Press.
13. Levine, J. (1983). Materialism and qualia: The explanatory gap. Pacific Philosophical Quarterly, 64(4), 354-361. doi:10.1111/j.1468-0114.1983.tb00207.x
14. Marr, D. (1982). Vision: A Computational Investigation into the Human Representation and Processing of Visual Information. San Francisco: W.H. Freeman.
15. Nagel, T. (1974). What is it like to be a bat? The Philosophical Review, 83(4), 435-450. doi:10.2307/2183914
16. Nelson, T.O., Narens, L. (1990). Metamemory: A theoretical framework and new findings. In G.H. Bower (Ed.), The Psychology of Learning and Motivation (Vol. 26, pp. 125-173). Academic Press.
17. Reid, M. (2026). Machine Self-Awareness: Functional Self-Modeling, Introspection and the Limits of Consciousness Claims in Large Language Models. SSRN preprint. doi:10.2139/ssrn.7301618
18. Watson, J.B. (1924). Behaviorism. New York: Norton.
19. Skinner, B.F. (1953). Science and Human Behavior. New York: Macmillan.
20. Neisser, U. (1965). Cognitive Psychology. New York: Appleton-Century-Crofts.
21. Flavell, J.H. (1979). Metacognition and cognitive monitoring: A new area of cognitive-developmental inquiry. American Psychologist, 34(10), 906-911. doi:10.1037/0003-066X.34.10.906

Note

1. «By the word ‘thought’ (‘pensée’) I understand all that of which we are conscious as operating in us.» — Descartes, Principia Philosophiae, 1640, Part I, §9. Fonte: Early Modern Texts. Traduzione nostra.
2. «I do not say there is no soul in man because he is not sensible of it in his sleep. But I do say he can not think at any time, waking or sleeping, without being sensible of it.» — Locke, An Essay Concerning Human Understanding, 1689, Book II, Ch. I, §19. Fonte: Early Modern Texts. Traduzione nostra.
3. «Introspection, as the term is used in contemporary philosophy of mind, is a means of learning about one’s own currently ongoing, or perhaps very recently past, mental states or processes.» — Schwitzgebel, Introspection, Stanford Encyclopedia of Philosophy, 2024. Fonte: SEP entry. Traduzione nostra.

Podcast: Play in new window | Download