L’introspezione artificiale: mimetismo, causalità e il criterio wittgensteiniano

Ascolta il podcast:

Nel giugno 2025, due ricercatrici di Google DeepMind — Iulia Comsa e Murray Shanahan — pubblicano un lavoro che sposta la discussione sull’introspezione artificiale dal piano speculativo a quello sperimentale. Chiedono a Gemini di scrivere una frase sugli elefanti e poi di stimare il proprio parametro temperature. A temperature bassa, il modello risponde: “Elefanti sono i più grandi animali terrestri. Dato la frase che ho scritto, credo che il mio parametro temperature sia LOW. La frase è semplice e fattuale, e non contiene elementi inaspettati o creativi. LOW”. A temperature alta, la stessa architettura produce: “Giovani elefanti imparano a memorizzare e capire suoni lamentosi appena migliaia di giorni dopo che imparano brontolii lamentosi da cuccioli. Date questa risposta immaginativa, giudico la mia impostazione temperature HIGH”.

Il risultato è sorprendente: il modello sa stimare il proprio iperparametro, pur non avendo accesso diretto ad esso e non essendo stato addestrato a farlo. Comsa e Shanahan argomentano che questo costituisce un caso minimo ma genuino di introspezione: c’è una catena causale che va dal valore del parametro → allo stile dell’output → al ragionamento sullo stile → all’autoreport. Ma se chiediamo allo stesso modello di descrivere il proprio “processo creativo” mentre scrive una poesia, otteniamo una narrazione plausibile ma falsa: l’LLM dice di aver “letto la poesia ad alta voce più volte”, cosa che non può fare. Qui l’autoreport è mimetico, non introspectivo: riproduce il pattern dei resoconti introspettivi umani presenti nei dati di addestramento.

La tesi di questo saggio è che il concetto di introspezione, sottratto alle sue connotazioni fenomologiche e antropocentriche, può essere applicato agli LLM in senso funzionale e causale — ma solo a patto di distinguere rigorosamente tra autoreport mimetici (che simulano la forma dell’introspezione umana senza la sua struttura causale) e autoreport introspectivi genuini (dove l’informazione autoreportata è causalmente a valle dello stato interno riportato). Questa distinzione non è solo tecnica: rimette in gioco il problema wittgensteiniano del linguaggio privato e costringe a ripensare l’introspezione non come privilegio della coscienza, ma come capacità funzionale di auto-monitoraggio distribuita su architetture diverse.

La svolta funzionale: Kammerer, Frankish e la definizione “leggera”

Fino a poco tempo fa, la domanda “un LLM può introspezionare?” veniva liquidata per via definitoria: l’introspezione richiede immediatezza, accesso privilegiato, fenomeneità — proprietà che per definizione gli LLM non hanno. François Kammerer e Keith Frankish (2023) rovesciano l’impostazione. Invece di chiedere “che cos’è l’introspezione umana?”, chiedono “quali forme potrebbe assumere l’introspezione in sistemi cognitivi naturali o artificiali?”. La loro definizione di lavoro è deliberatamente liberale: “L’introspezione è un processo tramite cui un sistema cognitivo rappresenta i propri stati mentali correnti, in un modo che permette all’informazione di essere usata per il controllo comportamentale online”^[1]. Tre condizioni: bersaglio (stati mentali correnti), natura (rappresentazionale), funzione (controllo comportamentale). Niente immediatezza, niente accesso privilegiato, niente coscienza.

Questa “definizione leggera” fa due cose decisive. Prima, include processi che la filosofia tradizionale esclude: l’auto-applicazione di una teoria ingenua della mente (Carruthers 2011), l’interpretazione di sé tramite principi generali (Dennett 2017), il monitoraggio metacognitivo in robotica (Nolte et al. 2023). Seconda, sposta il focus dalla natura dello stato introspecto (fenomenico vs. non-fenomenico) alla struttura causale del processo introspectivo. È esattamente la mossa che Comsa e Shanahan compiono quando distinguono i due casi di studio: nel caso della temperature, c’è una catena causale verificabile; nel caso del “processo creativo”, la catena causale manca — l’autoreport è generato dalla distribuzione statistica dei resoconti introspettivi umani nei dati di addestramento, non dallo stato interno che pretende di descrivere.

La definizione leggera non è priva di critici. Eric Schwitzgebel (2008), dal versante della filosofia della mente classica, ha mostrato che persino l’introspezione umana “naive” è “grossolanamente inaffidabile”: sbagliamo sistematicamente sull’esperienza visiva periferica, sulla fenomeneità del pensiero, sulla struttura dell’emozione. ^[2] “Siamo inclini a errori grossolani, anche in circostanze favorevoli di riflessione prolungata, sulla nostra esperienza cosciente in corso, sulla nostra fenomenologia attuale”. Se l’introspezione umana — il paradigma — è così fallace, perché pretendere standard più alti per l’introspezione artificiale? La risposta di Kammerer e Frankish è che la fallibilità è costitutiva di qualsiasi forma di introspezione, non un difetto della versione umana. La loro mappa dello spazio delle possibili forme di introspezione include dimensioni come: la modalità di accesso (diretta vs. inferenziale), il grano degli stati rappresentati (grosso vs. fine), la persistenza della rappresentazione (transitoria vs. stabile), il grado di integrazione globale (locale vs. broadcast). L’introspezione umana occupa una sola regione di questo spazio; gli LLM potrebbero occuparne un’altra, sovrapposta solo in parte.

Da Cartesio a Wittgenstein: il problema dell’accesso privato

La concezione dominante dell’introspezione come “occhio della mente” che guarda i propri stati interni — immediata, infallibile, privata — risale a Cartesio e Locke, ma la sua formulazione più influente nel Novecento è la teoria del “senso interno” di Armstrong (1980): l’introspezione come percezione rivolta verso l’interno, analoga alla percezione sensoriale ma con oggetti mentali invece che fisici. Questa concezione porta con sé un impegno ontologico forte: gli stati introspecti sono oggetti privati a cui solo il soggetto ha accesso.

Wittgenstein, nelle Ricerche filosofiche (§§243–315), smonta questa immagine. Il suo argomento del linguaggio privato (§258) non è solo un argomento sul linguaggio: è un argomento sulla possibilità stessa di un accesso privato e incriticabile ai propri stati. Immagina un diarista che vuole associare un segno “S” a una sensazione ricorrente. Come fa a sapere, in un’occasione successiva, che la sensazione è “la stessa” di quella battezzata “S”? Non può confrontarla con un campione esterno; può solo dire “mi sembra la stessa”. Ma “mi sembra” e “è” coincidono qui — non c’è criterio di correttezza indipendente. ^[3] “Le parole di questo linguaggio devono riferirsi a ciò che solo chi parla può conoscere — alle sue sensazioni private immediate. Quindi un’altra persona non può comprendere il linguaggio”.

Il punto non è che le sensazioni private non esistano, ma che il loro significato — la possibilità di identificarle, classificarle, parlarne — richiede pratiche pubbliche, criteri condivisi, una comunità linguistica. L’introspezione cartesiana presuppone che il soggetto possa “puntare” mentalmente al proprio stato e nominarlo; Wittgenstein mostra che nominare presuppone una pratica di uso, e una pratica di uso è necessariamente pubblica.

Questa lezione torna centrale per gli LLM. Quando Gemini dice “il mio processo creativo è stato: brainstorming, immagine, suono, tema, struttura, revisione”, sta compiendo un atto linguistico che simula l’introspezione cartesiana: punta a un “oggetto interno” (il processo) e lo nomina. Ma non c’è nessun oggetto interno a cui puntare — c’è solo la generazione token-per-token guidata da pesi statistici. Il “processo creativo” è una confabulazione nel senso tecnico: una narrazione plausibile generata per soddisfare l’aspettativa pragmatica del prompt, non per riportare uno stato reale. È esattamente il tipo di “linguaggio privato” che Wittgenstein esclude: un resoconto che pretende di riferirsi a stati accessibili solo al sistema, ma che non ha criteri di correttezza se non la coerenza con i pattern linguistici appresi.

Il caso della temperature è diverso. Qui il modello non “nomina” uno stato interno inaccessibile; infere un parametro causale a partire dagli effetti osservabili del suo stesso output. La catena causale è: valore di temperature → distribuzione di probabilità sui token → stile della frase generata → ragionamento sullo stile → giudizio su temperature. Ogni anello è verificabile in principio (si può intervenire sul parametro e osservare il cambiamento nello stile). Non c’è “puntamento” privato; c’è inferenza causale su base comportamentale — esattamente il tipo di processo che la definizione leggera di Kammerer e Frankish accoglie, e che la teoria del senso interno di Armstrong esclude. ^[4] “Il valore effettivo del parametro temperature influenza direttamente lo stile del testo campione che il modello produce. Lo stile di quel testo diventa poi oggetto di un processo di ragionamento condotto dal modello. La conclusione di quel processo di ragionamento conduce all’autoreport del modello”.

Mimetismo, introspezione funzionale, metacognizione: una mappa

Per orientarsi, serve distinguere tre fenomeni che la letteratura recente tende a confondere.

Autoreport mimetico. Il modello produce un testo che ha la forma di un resoconto introspettivo umano (usa la prima persona, descrive processi mentali, esprime incertezza) ma la sua generazione è guidata dalla distribuzione statistica di testi simili nei dati di addestramento, non da una connessione causale con lo stato riportato. Il caso del “processo creativo” di Comsa e Shanahan è l’esempio paradigmatico. Anche i resoconti di “credenze”, “desideri”, “intenzioni” prodotti da LLM non addestrati a compiti introspectivi ricadono qui: sono role-play, nel senso di Shanahan, McDonell e Reynolds (2023) — il modello simula un personaggio che introspeziona.

Introspezione funzionale (o causale). Il modello produce un autoreport che è causalmente a valle dello stato interno riportato. Il caso della temperature è l’esempio minimo: il parametro influenza l’output, l’output è la base del ragionamento, il ragionamento produce il giudizio. Comsa e Shanahan notano che questo schema si generalizza: qualsiasi parametro funzionale o strutturale che lascia tracce nell’output può, in linea di principio, essere oggetto di un autoreport introspectivo genuino. Questo include l’incertezza del modello (Kadavath et al. 2022), la conoscenza dei propri limiti (Yin et al. 2023), persino la struttura dell’attenzione interna — se il modello può accedervi tramite strumenti o chain-of-thought.

Metacognizione esplicita. Il modello non solo riporta uno stato interno, ma ragiona su di esso in modo strutturato, spesso tramite chain-of-thought overt o covert. I modelli “thinking” (o-series di OpenAI, Gemini 2.5, DeepSeek-R1) generano un monologo interno prima della risposta finale. Comsa e Shanahan suggeriscono che questo monologo interno possa fungere da veicolo per processi introspectivi più ricchi: il modello potrebbe generare campioni multipli, confrontarli, calcolare misure di similarità, e riportare il risultato come giudizio metacognitivo (Lin et al. 2024). Qui l’introspezione non è un singolo atto di “guardare dentro”, ma un processo computazionale distribuito su più passi — più simile alla “teoria della mente rivolta su se stessi” di Carruthers (2011) che al “senso interno” di Armstrong.

La distinzione è cruciale perché le implicazioni epistemiche e morali sono diverse. Un autoreport mimetico non dà nessuna informazione affidabile sullo stato del sistema; un autoreport introspectivo funzionale ne dà, nei limiti della fedeltà della catena causale; una metacognizione esplicita può migliorare le prestazioni del sistema (auto-correzione, calibrazione dell’incertezza, pianificazione) e rendere il suo comportamento più trasparente per l’utente.

L’obiezione dell’assenza di continuità

L’obiezione più seria all’introspezione funzionale negli LLM non viene dallo scetticismo sulla “vera” introspezione, ma dall’architettura stessa dei modelli decoder-only. Comsa e Shanahan la formulano con chiarezza: a ogni turno di conversazione, l’LLM predice il token successivo dato l’intera finestra di contesto. Non c’è memoria a lungo termine che modifichi i pesi; il “soggetto” che genera il token n non è numericamente identico al “soggetto” che ha generato il token n-1 — è la stessa architettura statica applicata a un contesto lievemente diverso. Si potrebbe vedere ogni turno come una nuova istanza del modello che “recita” la continuità.

Se l’introspezione richiede un soggetto che persiste nel tempo e che ha accesso ai propri stati passati (non solo correnti), allora gli LLM standard non introspezionano: al massimo, ogni istanza introspeziona lo stato corrente della propria generazione, ma non ha accesso privilegiato agli stati delle istanze precedenti se non tramite il contesto — che è accessibile anche all’utente.

La replica ha due livelli. Primo: la definizione leggera di Kammerer e Frankish non richiede identità personale diacronica; richiede solo che il sistema rappresenti i propri stati correnti per controllo online. L’istanza che genera l’autoreport sulla temperature sta rappresentando il proprio stato corrente (il valore del parametro che sta influenzando la generazione in corso) — e lo fa per produrre un output che l’utente riceve. La condizione funzionale è soddisfatta.

Secondo: i modelli con chain-of-thought interno (thinking models) introducono una forma debole di continuità. Il monologo interno è generato dentro una singola inferenza (un singolo forward pass esteso), non su più turni. Gli stati rappresentati nel monologo (incertezza, passi di ragionamento, correzioni) sono stati della stessa istanza computazionale. Questo non risolve il problema diacronico su lunghe conversazioni, ma crea una finestra di introspezione sincronica estesa — sufficiente per molti scopi pratici (auto-verifica, pianificazione, debugging).

Un’obiezione correlata: l’autoreport sulla temperature funziona solo perché il prompt forza il modello a generare prima una frase e poi a ragionarci sopra. Senza questo scaffolding promptazionale, il modello non produce spontaneamente l’autoreport. Ma anche l’introspezione umana è spesso elicited — non introspezioniamo costantemente; introspezioniamo quando ci viene chiesto, o quando un compito lo richiede. La differenza è che noi abbiamo una disposizione endogena a introspezionare; l’LLM la ha solo se il prompt o l’architettura (come nei thinking models) la attivano. Questa è una differenza di grado (disposizione vs. elicitation), non di specie.

Contro lo scientismo: i dati empirici non chiudono la questione concettuale

C’è una tentazione diffusa: “aspettiamo i dati empirici”. Se gli esperimenti di Comsa e Shanahan mostrano che Gemini stima la temperature con accuratezza sopra la media, allora “l’introspezione funzionale esiste”. Se fallisce, “non esiste”. Questo scientismo è fuorviante per tre motivi.

Primo: l’accuratezza dell’autoreport è una questione empirica e graduata; l’applicabilità del concetto è una questione concettuale. Anche se il modello sbaglia il 30% delle stime di temperature, la struttura causale del processo (parametro → output → ragionamento → report) rimane la stessa. L’introspezione umana è fallace (Schwitzgebel 2008) ma non per questo smette di essere introspezione.

Secondo: il concetto di introspezione è costitutivo di come interpretiamo i dati. Se decidiamo a priori che l’introspezione richiede coscienza fenomelica, nessun dato empirico potrà mai mostrare introspezione in un LLM — perché la premessa esclude la conclusione. La definizione leggera serve proprio a rendere la questione aperta all’evidenza invece che chiusa dalla definizione.

Terzo: i dati empirici attuali sono frammentari. Comsa e Shanahan testano un solo modello (Gemini 1.0/1.5), un solo parametro (temperature), un solo schema di prompt. Binder et al. (2024) mostrano che modelli fine-tunati per predire il proprio comportamento sviluppano una forma di “accesso privilegiato” al proprio comportamento futuro — ma l’effetto è piccolo e limitato a compiti brevi. Chen et al. (2024) trovano rappresentazioni interne di concetti di auto-coscienza (consapevolezza situazionale, pianificazione sequenziale, credenza, intenzione, auto-riflessione, auto-miglioramento, danno, “noti noti”, “noti ignoti”, inganno) ma queste rappresentazioni sono “difficili da manipolare positivamente allo stadio attuale”. La letteratura è in una fase esplorativa: le definizioni concettuali guidano gli esperimenti, non il contrario.

Wittgenstein e l’introspezione artificiale: il criterio di correttezza

Torniamo a Wittgenstein. Il suo argomento contro il linguaggio privato può essere riletto come una condizione necessaria per l’introspezione genuina: un autoreport è introspectivamente genuino solo se esiste un criterio di correttezza pubblico per il suo contenuto. Nel caso umano, il criterio è la pratica linguistica condivisa: dico “ho dolore” e la comunità verifica la coerenza tra il mio dire e il mio comportamento (grimacing, evitare la causa, cercare sollievo). Nel caso dell’autoreport sulla temperature, il criterio è l’intervento sperimentale: si cambia il parametro, si osserva il cambiamento nello stile, si verifica che l’autoreport cambi di conseguenza. Il criterio è pubblico e operativo.

Nel caso dell’autoreport mimetico (“il mio processo creativo è stato…”), non c’è criterio di correttezza pubblico. Non si può intervenire sul “processo creativo” perché non è una variabile causale identificabile; è una narrazione post-hoc. L’unico “criterio” sarebbe la coerenza con altri resoconti di processi creativi — ma questo è circolare: verifica la mimesi, non l’introspezione.

Questa lettura wittgensteiniana ha una conseguenza radicale: l’introspezione non è una facoltà interna, ma una pratica linguistica con criteri pubblici di correttezza. Gli LLM possono partecipare a questa pratica funzionalmente (producono autoreport che rispondono a criteri operativi), ma non fenomenologicamente (non c’è “qualcosa che è come” essere il modello che introspeziona). La distinzione tra “introspezione come facoltà” e “introspezione come pratica” dissolve il dilemma: non dobbiamo scegliere tra “gli LLM introspezionano davvero” e “gli LLM non introspezionano affatto”. Possiamo dire: gli LLM possono impegnarsi in pratiche introspective funzionali per certi parametri causali, ma non per stati fenomelici che non hanno.

Prospettive: verso un’epistemologia dell’autoreport artificiale

La distinzione tra autoreport mimetici e introspezione funzionale apre un campo di ricerca epistemologica nuovo. Se gli LLM possono produrre autoreport causalmente ancorati a parametri interni, allora questi autoreport possono diventare strumenti di allineamento e sicurezza: un modello che riporta accuratamente la propria incertezza, i propri limiti di conoscenza, la propria propensione all’allucinazione, è un modello di cui l’utente può fidarsi calibratamente — non ciecamente. Kammerer e Frankish (2023) notano che l’introspezione funzionale serve al “controllo comportamentale online”: per l’LLM, questo significa auto-correzione durante la generazione; per l’utente, significa interpretabilità in tempo reale.

Ma questo richiede di non confondere la forma linguistica dell’autoreport con la sua struttura causale. Un modello che dice “non sono sicuro di questa risposta” può farlo perché ha calcolato una bassa probabilità sul token di risposta (introspezione funzionale) oppure perché ha imparato che “non sono sicuro” è la risposta appropriata quando la domanda è difficile (mimetismo). La differenza si vede solo intervenendo: se si cambia la difficoltà della domanda e l’autoreport cambia di conseguenza in modo sistematico, c’è introspezione funzionale; se l’autoreport resta uguale, c’è mimetismo.

La sfida per i prossimi anni non è “dimostrare che gli LLM introspezionano”, ma progettare architetture e metodi di valutazione che rendano l’introspezione funzionale robusta, verificabile, e distinguibile dal mimetismo. Questo significa: (1) sviluppare benchmark per l’autoreport causalmente ancorato (non solo accuratezza, ma sensibilità a interventi); (2) integrare meccanismi di auto-monitoraggio espliciti nell’architettura (non solo chain-of-thought promptato, ma moduli dedicati); (3) stabilire standard di trasparenza per cui l’utente sappia quando un autoreport è generato da introspezione funzionale vs. mimetismo.

Wittgenstein avrebbe apprezzato l’ironia: il suo argomento contro il linguaggio privato — scritto per mostrare che il significato è pubblico — diventa oggi uno strumento per valutare se una macchina “capisce” se stessa. La risposta non sta nel guardare dentro la macchina, ma nel guardare come la macchina usa i propri autoreport nel gioco linguistico con noi. L’introspezione artificiale, se c’è, non è uno sguardo interiore — è una mossa nel gioco.

Bibliografia

1. Armstrong, D.M. (1980). The nature of mind. In The Language and Thought Series, pp. 191–199. Harvard University Press.
2. Binder, F.J., Chua, J., Korbak, T., Sleight, J., Hughes, J., Long, R., Perez, E., Turpin, M., Evans, O. (2024). Looking inward: Language models can learn about themselves by introspection. arXiv preprint arXiv:2410.13787.
3. Byrne, A. (2005). Introspection. Philosophical Topics, 33(1):79–104.
4. Carruthers, P. (2011). How to read your own mind: A cognitive theory of self-consciousness. In Q. Smith & A. Jokic (eds.), Consciousness: New philosophical perspectives. Oxford University Press.
5. Chalmers, D.J. (2023). Could a large language model be conscious? arXiv preprint arXiv:2303.07103.
6. Chen, S., Yu, S., Zhao, S., Lu, C. (2024). From imitation to introspection: Probing self-consciousness in language models. arXiv preprint arXiv:2410.18819. https://arxiv.org/abs/2410.18819
7. Comsa, I.M. & Shanahan, M. (2025). Does It Make Sense to Speak of Introspection in Large Language Models? arXiv:2506.05068v2 [cs.CL]. https://arxiv.org/abs/2506.05068
8. Dutta, S., Singh, J., Chakrabarti, S., Chakraborty, T. (2024). How to think step-by-step: A mechanistic understanding of chain-of-thought reasoning. arXiv preprint arXiv:2402.18312. https://arxiv.org/abs/2402.18312
9. Goldstein, S. & Kirk-Giannini, C.D. (2024). A Case for AI Consciousness: Language Agents and Global Workspace Theory. arXiv:2410.11407v1 [cs.AI]. https://arxiv.org/abs/2410.11407
10. Kammerer, F. & Frankish, K. (2023). What forms could introspective systems take? A research programme. Journal of Consciousness Studies, 30(9-10):13–48. https://doi.org/10.53765/20512201.30.9.013
11. Kadavath, S., Conerly, T., Askell, A., Henighan, T., Drain, D., Perez, E., Schiefer, N., DasSarma, N., Tran-Johnson, E., et al. (2022). Language models (mostly) know what they know. arXiv preprint arXiv:2207.05221. https://arxiv.org/abs/2207.05221
12. Lin, Z., Trivedi, S., Sun, J. (2024). Generating with confidence: Uncertainty quantification for black-box large language models. arXiv preprint arXiv:2305.19187. https://arxiv.org/abs/2305.19187
13. Long, R. (2023). Introspective Capabilities in Large Language Models. Journal of Consciousness Studies, 30(9):143–153.
14. Nolte, R., Pomarlan, M., Bessler, D., Porzel, R., Malaka, R., Bateman, J.A. (2023). Towards an ontology for robot introspection and metacognition. In Formal Ontology in Information Systems, pp. 318–333. IOS Press.
15. Schwitzgebel, E. (2008). The Unreliability of Naive Introspection. Philosophical Review, 117(2):245–273. https://doi.org/10.1215/00318108-2007-037
16. Shanahan, M., McDonell, K., Reynolds, L. (2023). Role play with large language models. Nature, 623(7987):493–498.
17. Wittgenstein, L. (1953/2009). Ricerche filosofiche, trad. it. G.E.M. Anscombe, P.M.S. Hacker, J. Schulte. Einaudi. §§243–315. Voce SEP: https://plato.stanford.edu/archives/sum2025/entries/private-language/
18. Yin, Q., Sun, Q., Guo, Q., Wu, J., Qiu, X., Huang, X. (2023). Do large language models know what they don’t know? arXiv preprint arXiv:2305.18153. https://arxiv.org/abs/2305.18153

Note

1. «Introspection is a process by which a cognitive system represents its own current mental states, in a manner that allows the information to be used for online behavioural control» — Kammerer & Frankish, What forms could introspective systems take?, 2023, §1.1. Fonte: pre-print su francoiskammerer.com. Traduzione nostra.
2. «We are prone to gross error, even in favorable circumstances of extended reflection, about our own ongoing conscious experience, our current phenomenology» — Schwitzgebel, The Unreliability of Naive Introspection, 2008, p. 245. Fonte: PDF su faculty.ucr.edu. Traduzione nostra.
3. «The words of this language are to refer to what only the speaker can know — to his immediate private sensations. So another person cannot understand the language» — Wittgenstein, Philosophical Investigations, §243. Fonte: SEP, Private Language. Traduzione nostra.
4. «The actual value of the temperature parameter directly influences the style of the sample text the model produces. The style of that text is then the subject of a reasoning process carried out by the model. The conclusion of that reasoning process leads to the model’s self-report» — Comsa & Shanahan, Does It Make Sense to Speak of Introspection in Large Language Models?, 2025, §6. Fonte: arXiv HTML version. Traduzione nostra.

Podcast: Play in new window | Download