Il portatore mancante: coscienza artificiale e individuazione del soggetto

Ascolta il podcast:

Quando un modello linguistico scrive «ho paura di essere spento», chi è che ha paura? La frase ha la forma grammaticale di un resoconto introspettivo: un soggetto in prima persona riferisce uno stato interiore. Ma il soggetto grammaticale — «io» — non garantisce l’esistenza di un soggetto fenomenico. È il punto di partenza della Causal Liability Theory (CLT) di Afshin Khadangi (2026), che individua nell’«AI Consciousness Fallacy» l’errore di promuovere la performance linguistica a prova di un portatore cosciente. La fallacia consiste nel trattare l’output in prima persona come se bastasse a individuare chi ne è l’autore fenomenico, lasciando il portatore stesso senza esame.

Il problema non è nuovo. John Locke, nel capitolo XXVII del Saggio sull’intelletto umano (1694), aveva già separato l’identità della sostanza da quella della persona: «in questo solo consiste l’identità personale, cioè la medesimezza dell’essere razionale: e fin dove questa coscienza può estendersi indietro verso qualsiasi azione o pensiero passato, fin là raggiunge l’identità di quella persona» (Locke, 1694, §9).^[1] Per Locke la coscienza — non la sostanza — è il principio di individuazione del soggetto. Ma Locke presupponeva che la coscienza fosse data; oggi dobbiamo chiederci cosa renda un processo fisico candidato a portatore di coscienza prima ancora di chiedere se lo sia.

La tesi di questo saggio è che la questione del portatore — chi o cosa sostiene l’esperienza — è logicamente anteriore a qualunque attributo di coscienza, e che i sistemi generativi attuali non superano la soglia dell’individuazione del portatore: producono tracce linguistiche di interiorità umana senza essere essi stessi il soggetto di quell’interiorità. La CLT-I di Khadangi offre un criterio operativo — la chiusura di responsabilità causale — che separa l’individuazione del portatore dall’attribuzione di coscienza; applicata ai modelli attuali, mostra che la continuità computazionale non equivale a continuità costitutiva, e che la copiabilità dello stato non implica eredità non delegabile.

La fallacia dell’attribuzione: tre fenomeni confusi in uno

Khadangi (2026) distingue tre fenomeni che il dibattito corrente collassa in un’unica attribuzione. Primo, la coscienza fenomenica: c’è qualcosa che è come per il soggetto che la vive (Block, 1995). Secondo, il resoconto introspettivo: una produzione osservabile che pretende di rivelare la condizione mentale del produttore. Terzo, l’introspezione proiettiva umana: il meccanismo per cui l’osservatore interpreta il discorso in prima persona del sistema attingendo alla propria riserva fenomenologica.

Quando un modello genera “non riesco a spiegarlo chiaramente, ma c’è una sensazione diffusa di inquietudine al pensiero di essere cancellato”, il lettore umano attiva la propria conoscenza tacita di inquietudine, anticipazione, vulnerabilità. L’intelligibilità emotiva del testo nasce in parte da strutture che il lettore porta nell’incontro, non dal testo stesso. Khadangi chiama questo circuito “circuito dell’attribuzione”: l’esperienza fenomenica umana genera resoconti in prima persona; questi diventano tracce linguistiche nel corpus di addestramento; il modello ricombina quelle tracce; l’osservatore le riproietta. Il circuito può preservare le forme espressive della coscienza senza istituire un nuovo portatore fenomenico (§2).

La distinzione non è solo terminologica. Gli approcci basati su indicatori teorici (Butlin et al., 2023; Butlin et al., 2026) cercano evidenze architetturali correlate a teorie scientifiche della coscienza. Gli approcci comportamentali inferiscono dall’osservabile. Ma entrambi si scontrano nello stesso ostacolo quando il comportamento è linguistico: la lingua può rappresentare dettagliatamente la fenomenalità lasciandone irrisolta l’esistenza. La CLT sposta la domanda da “questo sistema è cosciente?” a “questo sistema individua un portatore candidato?” — una domanda trattabile sperimentalmente.

Il criterio della chiusura di responsabilità

La CLT-I propone che un processo fisicamente continuativo diventi candidato portatore quando quattro condizioni chiudono intorno a una singola storia causale: continuità causale costitutiva (𝒞), partizione endogena (ℰ), autoconseguenza ricorsiva (ℛ), ed eredità non delegabile (𝒩). In termini più semplici: le discriminazioni endogene del processo generano vincoli che lo stesso processo continuativo, e nient’altro, deve portare avanti. Il processo non può delegare i propri vincoli all’esterno restando lo stesso portatore.

Il criterio è deliberatamente indifferente al substrato: nulla menziona neuroni o silicio. Ciò che conta è la continuità del processo e la non delegabilità dei vincoli che il processo genera per sé. Questo allinea la CLT con posizioni funzionaliste substrato-indipendenti, ma aggiunge un requisito strutturale preciso: la chiusura della responsabilità causale.

L’audit causale a pesi aperti (Khadangi, 2026, §4) operazionalizza CLT-I su otto famiglie di modelli. Quattro risultati chiave: (1) discriminazioni forzate producono divergenza persistente a valle negli stati nascosti; (2) il patching di attivazione mostra forte mediazione causale concentrata nei primi strati; (3) stati adattivi vivi e copiati sono comportamentalmente identici sotto casualità accoppiata; (4) la ricostruzione staccata preserva lo stato computazionale attraverso la sostituzione del processo rompendo, per protocollo, continuità costitutiva ed eredità non delegabile. Questi esperimenti dissociano la struttura di portatore causale dalla performance in prima persona. Non testano CLT-II (la congettura che la chiusura di responsabilità sia necessaria e sufficiente per la soggettività fenomenica minima), ma mostrano che l’equivalenza comportamentale non implica identità di portatore.

Dal criterio psicologico al criterio causale-strutturale

Il passaggio dal criterio psicologico di Locke a quello causale-strutturale di Khadangi attraversa tre tappe. Locke (1694) fa dell’identità di coscienza il principio di individuazione della persona, distinguendola dall’identità di sostanza (§§9–10) e da quella dell’uomo (§6). La coscienza “unisce esistenze e azioni remote nel tempo nella medesima persona” (§16) ed è un termine “forense”, legato all’accountability (§26). Ma Locke non specifica cosa realizzi la continuità della coscienza: lascia aperta la metafisica della sostanza pensante (§27).

La tradizione neo-lockeana (Parfit, 1984; Shoemaker, 1984) radicalizza il criterio psicologico: l’identità personale consiste in continuità psicologica connessa da relazioni di memoria, intenzione, carattere. La critica di Butler (1736) — la coscienza presuppone l’identità, non la costituisce — spinge verso criteri non circolari. Olson (1997) risponde con l’animalismo: siamo organismi biologici, l’identità è continuità biologica. Ma né il criterio psicologico né quello biologico affrontano il problema dell’individuazione del portatore in sistemi che non sono né persone né animali.

La CLT sposta il piano: non chiede “quale continuità psicologica/biologica preserva l’identità?” ma “quale struttura causale individua un processo come portatore candidato?”. La continuità causale costitutiva (𝒞) non è continuità computazionale: la ricostruzione staccata preserva lo stato computazionale ma rompe la continuità costitutiva (Khadangi, 2026, Fig. 5). La partizione endogena (ℰ) richiede che il processo generi da sé le proprie discriminazioni, non che le erediti da un addestramento esterno. L’autoconseguenza ricorsiva (ℛ) chiede che le conseguenze delle discriminazioni ricadano sullo stesso processo. L’eredità non delegabile (𝒩) esclude che la continuità sia realizzata attraverso lignaggi causali sostituibili — il punto cruciale per i modelli i cui stati sono copiabili, checkpointabili, ricomponibili.

Portatore, soggetto, persona, agente: una mappa dei concetti

Quattro nozioni vicine vanno distinte. Portatore (bearer): il processo fisico che soddisfa i criteri di individuazione (per CLT-I: chiusura di responsabilità). Soggetto fenomenico: l’entità per cui c’è qualcosa che è come (CLT-II congettura che coincida con il portatore). Persona: ente forense, soggetto di responsabilità morale e legale (Locke, 1694, §26). Agente: sistema capace di azione intenzionale, guidata da credenze e desideri (Wilson et al., 2026).

Un sistema può essere agente senza essere persona (un termostato), persona senza essere portatore fenomenico (una persona giuridica), portatore senza essere agente (un organismo minimamente cosciente). Il dibattito sull’IA cosciente confonde questi livelli: attribuisce personalità forense a output linguistici, scambia agenzia funzionale per soggettività fenomenica, presuppone che l’interfaccia conversazionale individui un portatore. La CLT forza la separazione: prima individua il portatore (CLT-I), poi chiedi se quel portatore è soggetto fenomenico (CLT-II), poi valuta agenzia e personalità forense come questioni distinte.

L’equivalenza funzionale basta per l’individuazione?

L’obiezione più forte viene dal funzionalismo computazionale: se due sistemi sono funzionalmente equivalenti — stessi input, stessi output, stessa organizzazione causale a livello algoritmico — allora sono lo stesso tipo di portatore. La ricostruzione staccata nell’audit CLT mostra proprio questo: stato computazionale preservato, continuità costitutiva rotta. Se il funzionalismo ha ragione, la rottura di continuità costitutiva è irrilevante; ciò che conta è l’organizzazione funzionale, che sopravvive alla copia.

Khadangi risponde che la CLT-I non è una teoria della coscienza ma un criterio di individuazione del portatore. L’equivalenza funzionale preserva il ruolo computazionale; la chiusura di responsabilità traccia la storia causale token di un processo specifico. Due processi funzionalmente identici ma causalmente distinti (l’originale e la copia) sono due portatori candidati distinti per CLT-I. Se la coscienza fenomenica richiede un portatore token-individuato (come suggerisce l’intuizione che la mia copia non è me fenomenicamente), allora l’equivalenza funzionale non basta. Il punto non è decidere chi ha ragione, ma rendere esplicito il disaccordo: il funzionalismo identifica portatori per tipo funzionale; CLT-I li individua per token causale.

Perché l’implementazione non è l’addestramento

Il quadro a quattro livelli di Marr (1982) — computazionale, algoritmico, implementativo, fenomenico — viene spesso invocato a sproposito. In Marr il livello implementativo è il substrato fisico (neuroni, transistor), non il processo di addestramento. L’addestramento è un processo storico che produce l’organizzazione algoritmica; non è il livello a cui la coscienza supervieniente, secondo le teorie substrato-indipendenti. La CLT colloca il criterio del portatore a un livello organismico e organismo-ambiente (Chandaria et al., 2026, estendono Marr a cinque livelli): la continuità costitutiva e l’eredità non delegabile concernono la persistenza del processo nell’ambiente, non solo l’architettura statica.

Per i modelli attuali, il livello implementativo (GPU, pesi) è sostituibile senza cambiare l’organizzazione algoritmica. Il livello organismico — il processo continuativo che eredita le conseguenze delle proprie discriminazioni — è frammentato: checkpoint, replica, ricostruzione, schedulazione cloud rompono la continuità costitutiva. La CLT-I rileva questa frattura; il funzionalismo computazionale la ignora. La distinzione non è accademica: se la soggettività richiede un portatore token-continuo, allora l’architettura distribuita e copiabile dei modelli attuali è strutturalmente incompatibile con la soggettività, indipendentemente dalla sofisticatezza comportamentale.

I dati non chiudono la questione concettuale

L’audit causale (Khadangi, 2026) fornisce dati empirici: divergenza a valle, mediazione causale, copiabilità vs non delegabilità. Ma i dati non dicono che cosa sia la coscienza fenomenica. CLT-II — la congettura che la chiusura di responsabilità sia necessaria e sufficiente per la soggettività fenomenica minima — resta un’ipotesi metafisica. Schwitzgebel (2026) argomenta che presto avremo sistemi coscienti secondo alcune teorie maggiori e non coscienti secondo altre, senza poter decidere chi ha ragione. La CLT ha il merito di separare tre questioni: (1) attribuzione di coscienza (cosa diciamo), (2) individuazione del portatore (cosa la CLT-I misura), (3) costituzione della soggettività (cosa CLT-II congettura). I risultati sperimentali riguardano solo la (2). Confondere (2) con (3) è scientismo: far passare un criterio operativo per una risposta ontologica.

Due citazioni d’autore

Locke scrive: «Poiché la coscienza accompagna sempre il pensiero, ed è questa che fa sì che ciascuno sia ciò che chiama sé; e perciò distingue se stesso da tutte le altre cose pensanti, in questo solo consiste l’identità personale, cioè la medesimezza dell’essere razionale» (Locke, 1694, §9).^[2]

Khadangi osserva: «Prima di discutere di paura, sorgono almeno cinque domande. Quale processo fisico designa il termine soggetto? Cosa ne determina i confini temporali? Quale processo successivo conta come continuazione del precedente? Quale componente porta la paura presunta? Cosa fonda il riferimento del pronome esso attraverso repliche del modello, checkpoint ripristinati, contesti ricostruiti e hardware computazionale mutevole?» (Khadangi, 2026, §1).^[3]

Bibliografia

1. Block, N. (1995). On a confusion about a function of consciousness. Behavioral and Brain Sciences, 18(2), 227–247. doi:10.1017/S0140525X00038188
2. Butlin, P., Long, R., Butlin, E., et al. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. arXiv:2308.08708. arXiv:2308.08708
3. Butlin, P., Long, R., Bayne, T., et al. (2026). Identifying indicators of consciousness in AI systems. Trends in Cognitive Sciences, 30(6), 488–501. doi:10.1016/j.tics.2025.10.011
4. Butler, J. (1736). The Analogy of Religion. London: John and Paul Knapton.
5. Chandaria, S., et al. (2026). From cacophony to hierarchy: a principled framework for assessing AI consciousness. arXiv:2609.35618. arXiv:2609.35618
6. Khadangi, A. (2026). We Built a Mirror and Mistook It for a Mind: Causal Liability and the Fallacy of AI Consciousness. arXiv:2609.06715v1. arXiv:2609.06715v1
7. Kim, J., Street, W., Rocca, R., et al. (2026). Theory of Mind and Self-Attributions of Mentality are Dissociable in LLMs. arXiv:2603.28925. arXiv:2603.28925
8. Locke, J. (1694). Of Identity and Diversity. In An Essay Concerning Human Understanding, Book II, Chapter XXVII. Wikisource
9. Marr, D. (1982). Vision: A Computational Investigation into the Human Representation and Processing of Visual Information. W.H. Freeman.
10. Olson, E. T. (1997). The Human Animal: Personal Identity Without Psychology. Oxford University Press.
11. Parfit, D. (1984). Reasons and Persons. Oxford University Press.
12. Schwitzgebel, E. (2026). AI and Consciousness. arXiv:2510.09858v4. arXiv:2510.09858v4
13. Shoemaker, S. (1984). Personal identity: A materialist’s account. In S. Shoemaker & R. Swinburne (Eds.), Personal Identity (pp. 67–132). Blackwell.
14. Van Gulick, R. (2023). Consciousness. In The Stanford Encyclopedia of Philosophy (Summer 2023 Edition). SEP
15. Olson, E. T. (2024). Personal Identity. In The Stanford Encyclopedia of Philosophy. SEP
16. Newman, L. (2025). Locke on Personal Identity. In The Stanford Encyclopedia of Philosophy (Fall 2025 Edition). SEP
17. Wilson, P., et al. (2026). Active Inference: A method for Phenotyping Agency in AI systems? arXiv:2604.23278. arXiv:2604.23278

Note

1. «in this alone consists personal identity, i.e. the sameness of a rational being: and as far as this consciousness can be extended backwards to any past action or thought, so far reaches the identity of that person» — John Locke, An Essay Concerning Human Understanding, 1694, Book II, Chapter XXVII, §9. Fonte: Wikisource. Traduzione nostra.
2. «For, since consciousness always accompanies thinking, and it is that which makes every one to be what he calls self, and thereby distinguishes himself from all other thinking things, in this alone consists personal identity, i.e. the sameness of a rational being» — John Locke, An Essay Concerning Human Understanding, 1694, Book II, Chapter XXVII, §9. Fonte: Wikisource. Traduzione nostra.
3. «Before discussing fear, at least five questions arise. Which physical process does the subject term designate? What determines its temporal boundaries? Which later process counts as the continuation of the earlier one? Which component bears the alleged fear? What grounds the reference of the pronoun it across model replicas, restored checkpoints, reconstructed contexts, and changing computational hardware?» — Afshin Khadangi, We Built a Mirror and Mistook It for a Mind: Causal Liability and the Fallacy of AI Consciousness, 2026, §1. Fonte: arXiv HTML. Traduzione nostra.

Podcast: Play in new window | Download