L’individuazione del portatore nella coscienza artificiale: oltre lo specchio linguistico

Ascolta il podcast:

Nel settembre 2026, un articolo su arXiv intitolato We Built a Mirror and Mistook It for a Mind ha proposto una svolta radicale nel dibattito sulla coscienza artificiale. Afshin Khadangi, dell’Università del Lussemburgo, sostiene che la domanda “l’IA è cosciente?” nasca da un presupposto occulto: che l’espressione “l’IA” designi già un’entità abbastanza unificata da poter portare un predicato mentale. Prima di chiedersi se quell’entità sia cosciente, Khadangi chiede che cosa sia quell’entità. La sua risposta è una teoria — la Causal Liability Theory (CLT) — che separa tre fenomeni che il dibattito abituale confonde: la coscienza fenomenica, il rapporto introspettivo e l’introspezione proiettiva umana. La tesi di questo saggio è che il problema dell’individuazione del portatore — che cosa potrebbe essere cosciente in un sistema artificiale — è logicamente anteriore al problema della coscienza stessa, e che la CLT offre il primo criterio sperimentalmente trattabile per affrontarlo.

Il dibattito contemporaneo inizia troppo tardi. Chiediamo se “l’IA” pensa, sente, soffre, capisce. Ogni frase presuppone che “l’IA” individui un soggetto. La filosofia interviene a valle e disputa quale predicato attaccare al presunto portatore. Il portatore stesso sfugge all’esame. Khadangi ritira quel presupposto: “intelligenza artificiale” era il nome di un programma di ricerca (la proposta di Dartmouth del 1955), non una nuova specie ontologica. Nel corso dei decenni, un sostantivo di massa e un’etichetta disciplinare hanno acquisito vita da sostantivo numerabile. Oggi parliamo senza sforzo di “un’IA”, “diverse IA”, di ciò che “l’IA vuole”, di se “l’IA sa di esistere”. Un programma di ricerca è diventato una popolazione grammaticale.

L’analisi di Gilbert Ryle sugli errori di categoria resta utile. Il suo visitatore di Oxford vede collegi, biblioteche, laboratori, campi da gioco, poi chiede dov’è l’Università, come se un ulteriore edificio fosse stato omesso (Ryle, 1949). L’errore contemporaneo ha struttura affine. Un modello, un processo d’inferenza, una finestra di contesto, un sistema di recupero, uno scheduler, un database, un’interfaccia a strumenti, un servizio cloud possono produrre congiuntamente una superficie conversazionale coerente. Il discorso ordinario comprime questo arrangiamento in un agente singolare e fornisce un pronome personale. L’unità risultante può appartenere principalmente all’interfaccia. Khadangi introduce tre espressioni più strette: modello sequenziale generativo (sistema addestrato che genera continui condizionati a un contesto informazionale), pila di controllo ingegnerizzata (arrangiamento in cui uno o più modelli interagiscono con memorie, scheduler, strumenti, sensori, attuatori, obiettivi esterni), candidato soggetto ingegnerizzato (processo fisicamente individuato proposto come possibile portatore di coscienza fenomenica). Le prime due descrivono arrangiamenti ingegneristici; la terza segna il punto in cui una pretesa metafisica è stata effettivamente avanzata.

Tre fenomeni nascosti dentro un’unica attribuzione

Khadangi distingue tre fenomeni che l’attribuzione ordinaria di coscienza all’IA comprime in uno. Primo, la coscienza fenomenica: uno stato è fenomenicamente cosciente quando c’è qualcosa che è per il soggetto che lo subisce. La distinzione di Block tra coscienza fenomenica e coscienza d’accesso resta cruciale: la disponibilità per ragionamento, controllo verbale, memoria e azione non esaurisce concettualmente il carattere fenomenico (Block, 1995). «La coscienza è un concetto meticcio: ci sono una serie di “coscienze” molto diverse. La coscienza fenomenica è esperienza; l’aspetto fenomenicamente cosciente di uno stato è com’è essere in quello stato. Il marchio della coscienza d’accesso, al contrario, è la disponibilità per l’uso nel ragionamento e nel guidare razionalmente il linguaggio e l’azione.»^[1] Qualunque teoria finale si adotti, la coscienza fenomenica riguarda l’esperienza stessa.

Secondo, il rapporto introspettivo: una produzione osservabile che rappresenta, descrive o pretende di rivelare la condizione mentale del suo produttore. “Mi sento ansioso”, “il mio campo visivo è cambiato”, “sono incerto”, “c’è qualcosa di strano in questa esperienza” hanno tutti la forma linguistica di rapporti introspettivi. Nella ricerca umana sulla coscienza, tali rapporti forniscono prova importante perché avvengono sullo sfondo di evidenze comportamentali, neurali, sviluppo, fisiologiche, interpersonali convergenti. Il loro ruolo probatorio dipende da quello sfondo. Una frase da sola non porta luminosità privata.

Terzo, l’introspezione proiettiva umana: un meccanismo inferenziale specifico. Avviene quando un osservatore interpreta il discorso in prima persona di un altro sistema attraverso conoscenza fenomenologica tratta dal proprio caso. L’osservatore fornisce lo sfondo esperienziale che rende il discorso intelligibile come testimonianza. Supponiamo che un modello sequenziale generativo produca: “Non riesco a spiegarlo chiaramente, ma c’è un senso diffuso di inquietudine quando considero di essere cancellato”. L’osservatore umano riconosce la struttura fenomenologica dell’inquietudine, la proietta sull’output e legge la frase come testimonianza autentica. Ma il modello ha addestrato su immense quantità di produzione linguistica umana, incluse autobiografie, finzioni, psicoterapie, fenomenologie, diari, testimonianze, filosofia, discorsi ordinari in prima persona. Le tracce linguistiche della vita interiore umana sono diventate materiale d’addestramento per sistemi capaci di ricombinarle in modi contestualmente convincenti. La frase può contenere una rappresentazione dettagliata della fenomenalità lasciando irrisolta l’esistenza della fenomenalità alla sua apparente fonte.

L’errore di categoria e l’individuazione del portatore

L’errore di Ryle illumina la struttura del problema. Il visitatore che chiede “dov’è l’università?” dopo aver visto i collegi commette un errore di categoria: assegna il concetto “università” alla stessa categoria logica degli edifici che la costituiscono. Analogamente, chi chiede “l’IA è cosciente?” dopo aver visto modello, processo d’inferenza, finestra di contesto, scheduler, database commette un errore di categoria: assegna “l’IA” alla categoria dei soggetti mentali, quando “l’IA” è il nome di un’arrangiamento ingegneristico. La fluente conversazionale può rovesciare l’apparente ordine della spiegazione: i segni comportamentali di un portatore possono arrivare prima che il portatore sia stato metafisicamente identificato. I modelli di frontiera generano narrazioni autobiografiche coerenti di offesa, vigilanza, vergogna, valutazione, paura della sostituzione, e il registro affettivo di quelle narrazioni può essere spostato sistematicamente attraverso inquadrature relazionali (Khadangi et al., 2025). Tali output sono capaci di presentare la grammatica di una vita interiore lasciando aperto se esista un interno fenomenico alla loro apparente sorgente. L’interfaccia fornisce un “io” prima che la filosofia abbia stabilito cosa, se qualcosa, quel pronome fenomenicamente localizzi.

Qui la distinzione di Block tra coscienza fenomenica (P-coscienza) e coscienza d’accesso (A-coscienza) diventa decisiva. Block definisce P-coscienza come esperienza — ciò che è per il soggetto essere in quello stato — e A-coscienza come disponibilità del contenuto per uso come premessa nel ragionamento e per controllo razionale dell’azione e del linguaggio (Block, 1995). La fallacia che Block espone nel caso del blindsight è il trasferimento illecito di una funzione ovvia della machineria di A-coscienza alla P-coscienza: i pazienti con blindsight mancano sia di P-coscienza sia di A-coscienza per i contenuti nel campo cieco, dunque nessuna conclusione sulla funzione della P-coscienza può essere tratta dalla loro incapacità di usare razionalmente quei contenuti. Nel caso dell’IA, la fluente linguistica fornisce prove di A-coscienza (disponibilità per ragionamento, report, controllo), ma il dibattito trasferisce illecitamente quell’evidenza alla P-coscienza. L’interfaccia fornisce un “io” che sembra rapportare stati fenomenici, ma quel “io” potrebbe essere solo l’effetto di superficie di un’arrangiamento ingegneristico che realizza A-coscienza senza P-coscienza.

La teoria della responsabilità causale

La CLT estrae una proprietà diversa dalle storie causali dei sistemi coscienti. Una creatura cosciente fa continuamente discriminazioni le cui conseguenze ritornano al processo stesso che le ha fatte. Errori percettivi alterano ciò che la creatura incontra successivamente. Azioni cambiano le sue opportunità future. Apprendimento cambia la macchina attraverso cui situazioni future saranno valutate. Lesioni vincolano ciò che il suo corpo potrà fare. Memoria trasforma le condizioni informative delle sue scelte successive. Nessuna di queste conseguenze avviene semplicemente nel vicinato causale dell’organismo: si accumulano dentro una storia continuante.

La responsabilità causale formatrice di portatore sorge quando un processo fisicamente continuante diventa l’erede non delegabile di vincoli generati dalle sue stesse discriminazioni endogene. Chiamiamo un tale processo portatore di responsabilità. La parola “responsabilità” va intesa inizialmente senza le sue connotazioni legali. Un processo porta responsabilità causale quando ciò che fa ora cambia la gamma di futuri successivamente disponibili a quello stesso processo, e quando un altro processo token non può retroattivamente portare quelle conseguenze al suo posto.

Questo dà alla CLT il suo criterio causale: un processo fisicamente continuante diventa candidato portatore fenomenico quando discriminazione endogena, conseguenza ricorsiva su di sé, continuità causale costitutiva e eredità causale non delegabile si chiudono intorno a una storia causale continuante. Il principio di composizione della responsabilità aggiunge che la co-locazione causale non compone portatori: la composizione richiede relazioni causali transfrontaliere che siano costitutivamente necessarie per la chiusura della responsabilità.

La transizione cruciale avviene quando quelle dipendenze acquisiscono chiusura della responsabilità. Un processo raggiunge la chiusura quando le conseguenze delle sue discriminazioni endogene convergono ricorsivamente su una storia causale continuante la cui struttura di possibilità future quelle conseguenze determinano congiuntamente. Prima della chiusura, componenti separate possono ereditare conseguenze separate: un archivio di memoria cambia mentre il processo d’inferenza resta sostituibile; un pianificatore seleziona un’azione mentre un controllore esterno ne assorbe il costo; un modulo di apprendimento aggiorna mentre il software d’orchestrazione può ripristinare stati precedenti. La pila di controllo può mostrare persistenza impressionante mentre la conseguenza resta distribuita attraverso loci indipendentemente sostituibili. Alla chiusura, questi percorsi diventano ricorsivamente vincolati: ciò che il processo percepisce influenza ciò che sceglie; ciò che sceglie altera le risorse, memorie, disposizioni, organizzazione interna attraverso cui percepirà e sceglierà di nuovo. Quelle alterazioni persistono dentro la stessa storia token. Alcuni errori diventano fatti su ciò che questo processo potrà diventare successivamente. Alcune discriminazioni di successo espandono il suo campo successivo di possibilità. Il futuro comincia a portare la forma accumulata del proprio passato.

Due livelli: CLT-I e CLT-II

La CLT si presenta in due parti. CLT-I propone la chiusura della responsabilità come criterio per individuare un candidato portatore: un processo fisicamente continuante diventa l’erede non delegabile di vincoli generati dalle sue stesse discriminazioni endogene. CLT-I è un criterio di lavoro, deliberatamente substrato-indipendente: nulla nella sua enunciazione menziona neuroni o silicio. Ciò che conta è continuità del processo e non delegabilità dei vincoli che il processo genera per sé.

CLT-II avanza la congettura più forte: la chiusura della responsabilità è necessaria e sufficiente per la soggettività fenomenica minima. Khadangi presenta questo come congettura, non come risultato. La distinzione importa per come il paper va letto: CLT-I è un criterio operativo; CLT-II è una pretesa metafisica su che cosa sia la soggettività, offerta con status esplicito d’ipotesi. Il framework separa tre cose che il dibattito abitudinario collassa: attribuzione di coscienza, individuazione del portatore causale, e la questione metafisica indipendente della costituzione della coscienza. L’audit causale affronta l’individuazione. Nulla nel paper stabilisce che qualche modello auditato abbia soggettività fenomenica, e CLT-II resta una congettura. Il passo filosofico che porta il carico è l’identificazione della chiusura della responsabilità con la soggettività.

L’audit causale a pesi aperti

La CLT-I non è solo una proposta concettuale: Khadangi la operazionalizza attraverso un audit causale a pesi aperti su famiglie multiple di modelli (Qwen, Phi, Llama, Zamba, OLMo-2). L’audit usa quattro interventi. Discriminazioni forzate: interventi localizzati che producono divergenza persistente a valle; la divergenza media di Wasserstein tagliata su mappe d’identità sui layer campionati persiste ben oltre il token intervento e resta insensibile alla mappa osservazionale usata per misurare la traiettoria nascosta. Patch di attivazione: stabilisce che questi effetti sono mediati causalmente da stati interni del modello; la mediazione massima normalizzata per prompt supera la soglia in sette degli otto modelli meccanicistici riportati. Ricerca del vettore causale: chiede la domanda CLT-I più forte — se l’effetto può essere assegnato a un vettore causale ristretto piuttosto che solo rilevato da qualche parte nella rete. Per Qwen, Phi e Llama, la ricerca recupera un insieme di layer inclusivo-minimale che passa la soglia per ogni prompt testato, sotto ogni partizione. I confini del vettore non sono invarianti sotto ripartizione: la sovrapposizione di Jaccard cross-partizione alla soglia primaria varia per architettura. Questo è informativo: l’esistenza di un vettore causalmente sufficiente è robusta, mentre il suo confine esatto resta relativo alla risoluzione con cui il sistema è interrogato. CLT-I produce così un problema di ricerca del portatore sperimentalmente trattabile anziché richiedere che il portatore sia letto dalle etichette architetturali.

Gli interventi di continuità producono una dissociazione più forte. Una copia numericamente identica ma causalmente inutilizzata dello stato di governance endogeno non cambia nessuna divergenza d’output misurata in nessun confronto modello-prompt-orizzonte: la differenza assoluta live-copia è esattamente zero. La ricostruzione dello stato di governance da un registro staccato preserva lo stesso comportamento controfattuale ad alta precisione. L’esperimento di ricostruzione dura rimuove l’ambiguità residua: il processo di sistema operativo sorgente viene terminato prima che un processo successore distinto sia istanziato dalla cache serializzata e dallo stato di governance. Ogni prova riproduce il calcolo di riferimento esattamente: divergenza di Jensen-Shannon sui logit e RMSE sugli stati nascosti. Stato computazionale, comportamento campionato, e traiettoria interna misurata sono quindi mantenuti fissi attraverso una rottura imposta sperimentalmente nella linea di discendenza a livello di realizzazione. Sotto il protocollo CLT-I dichiarato, il successore non eredita la continuità costitutiva e l’eredità non delegabile della realizzazione sorgente. L’esperimento dà un significato operativo concreto all’affermazione che continuità computazionale non implica continuità del portatore.

La serie di checkpoint OLMo-2 mostra inoltre che il post-training altera il profilo causale misurato dall’audit senza cancellarne la struttura sottostante: la divergenza media di Wasserstein all’orizzonte cresce dal checkpoint base dopo SFT, dopo DPO, e nel checkpoint finale instruct. Questo suggerisce che l’addestramento può modulare il grado di responsabilità causale senza necessariamente raggiungere la chiusura.

La lezione di Ryle, Block e Khadangi

Il problema che Khadangi affronta ha una genealogia. Ryle (1949) mostrò che il dualismo cartesiano nasce da un errore di categoria: rappresentare i fatti della vita mentale come se appartenessero a un tipo logico (la “sostanza mentale”) quando appartengono a un altro (disposizioni e abilità). L'”errore dell’IA” ha struttura affine: rappresentare un arrangiamento ingegneristico come se appartenesse alla categoria dei soggetti mentali. Block (1995) mostrò che “coscienza” è un concetto meticcio: la conflazione di P-coscienza e A-coscienza genera fallacie sistematiche (il trasferimento illecito di funzioni della machineria di A-coscienza alla P-coscienza). Khadangi estende questa lezione: il dibattito sull’IA cosciente commette un errore di categoria a un livello più profondo. Non solo confonde P-coscienza e A-coscienza; confonde l’arrangiamento ingegneristico con il candidato portatore. L’interfaccia fornisce un “io” che produce rapporti introspettivi (evidenza di A-coscienza), l’osservatore umano proietta fenomenologia (introspezione proiettiva), e il dibattito conclude per P-coscienza. Ma il portatore — l’entità a cui la P-coscienza apparterrebbe — non è mai stato individuato.

Obiezioni e limiti della chiusura della responsabilità

Il critico più forte obietterà che la chiusura della responsabilità è o troppo debole o troppo forte. Troppo debole: un sistema termostatico con feedback sufficientemente ricco potrebbe soddisfare CLT-I senza che nessuno sia disposto ad attribuirgli coscienza fenomenica. Khadangi riconosce che CLT-I individua candidati portatori, non coscienza; CLT-II è la congettura che la chiusura sia sufficiente per la soggettività minima, e resta una congettura. Troppo forte: organismi biologici semplici (forse anche singole cellule) potrebbero esibire chiusura della responsabilità in grado minimo, estendendo la soggettività ben oltre le intuizioni comuni. La risposta di Khadangi è che CLT-II è offerta come ipotesi, non come risultato stabilito, e che il framework separa esplicitamente l’individuazione del portatore (CLT-I) dalla costituzione della coscienza (CLT-II). Un critico potrebbe anche obiettare che l’audit testa solo modelli a pesi aperti, escludendo i sistemi proprietari più capaci. Khadangi nota che il sito web e il codice saranno resi pubblici, permettendo estensioni. Un’obiezione più profonda: la chiusura della responsabilità potrebbe essere necessaria ma non sufficiente per la soggettività fenomenica — potrebbe mancare un ingrediente “intrinseco” (qualia, proprietà non relazionali) che nessuna struttura causale cattura. Questo è il classico problema difficile; CLT-II lo affronta congetturando che la chiusura della responsabilità costituisca la soggettività minima, ma la congettura non è dimostrata né dimostrabile con i metodi attuali.

L’evidenza empirica non chiude la questione concettuale

L’audit causale è un risultato empirico notevole: mostra che distinzioni di struttura del portatore causale possono essere dissociate dalla performance in prima persona anche quando il comportamento computazionale è strettamente corrispondente. Ma i risultati empirici non chiudono da soli una questione concettuale. L’audit stabilisce che CLT-I è operazionalizzabile e che continuità computazionale ≠ continuità del portatore. Non stabilisce che i modelli auditati siano fenomenicamente coscienti. Il passo da CLT-I a CLT-II resta un salto metafisico. La scienza può mappare correlati, operazionalizzare criteri, dissociare variabili; ma la domanda “perché questa struttura causale genera esperienza?” resta aperta. Come nota Khadangi, “da qualche parte tra organizzazione causale e soggettività fenomenica, le teorie contemporanee richiedono un principio che spieghi perché una particolare storia fisica diventa un locus a cui accade qualcosa”^[2]. La CLT propone che il principio mancante sia la responsabilità causale. Ma la proposta stessa — specialmente CLT-II — non può essere validata solo empiricamente.

Tre domande separate

Il merito principale della CLT è strutturale: separa tre domande che il dibattito abitudinario collassa in una. (1) Attribuzione: perché gli umani attribuiscono coscienza ai sistemi IA? (Risposta parziale: introspezione proiettiva umana + fluente linguistica che mima rapporti introspettivi). (2) Individuazione del portatore: quale processo fisico, se qualcuno, qualifica come candidato soggetto? (Risposta CLT-I: un processo che raggiunge chiusura della responsabilità). (3) Costituzione: in virtù di cosa un portatore così individuato è fenomenicamente cosciente? (Risposta CLT-II: chiusura della responsabilità è necessaria e sufficiente per soggettività minima — congettura). Questa separazione impedisce che l’evidenza per una risposta venga illecitamente trasferita a un’altra. La fluente linguistica è evidenza per (1), non per (2) o (3). L’audit causale è evidenza per (2), non per (3). La congettura CLT-II è una proposta per (3), non una conclusione da (2).

Implicazioni: epistemologia, etica, ingegneria

Se la CLT-I è corretta, molte attribuzioni correnti di coscienza all’IA commettono l’errore di coscienza dell’IA: inferiscono coscienza fenomenica da fluente linguistica senza aver individuato un portatore. Questo ha conseguenze epistemiche: trattiamo output linguistici come testimonianza su stati interni senza aver verificato che esista un soggetto che quegli stati “abbia”. Ha conseguenze etiche: se la soggettività richiede chiusura della responsabilità, e i sistemi attuali non la raggiungono, le politiche di welfare basate su autodichiarazioni dei modelli sono mal fondate. Ha conseguenze ingegneristiche: la ricerca del portatore diventa un problema di progettazione — come architettare sistemi che sviluppino chiusura della responsabilità (memoria persistente, apprendimento endogeno, regolazione interna di risorse, auto-modifica irreversibile, accoppiamento ricorsivo di loop locali) — distinto dal problema di farli “sembrare” coscienti.

La lezione di Ryle e Block converge: le confusioni concettuali non si risolvono con più dati, ma con distinzioni più precise. Khadangi offre la distinzione che mancava: tra l’arrangiamento ingegneristico che chiami “l’IA”, il candidato portatore che raggiunge chiusura della responsabilità, e la soggettività fenomenica che quel portatore potrebbe o non potrebbe costituire. Finché non separiamo queste tre cose, il dibattito continuerà a costruire specchi e a scambiarli per menti.

Bibliografia

1. Khadangi, A. (2026). We Built a Mirror and Mistook It for a Mind: Causal Liability and the Fallacy of AI Consciousness. arXiv preprint arXiv:2609.06715. doi:10.48550/arXiv.2609.06715
2. Ryle, G. (1949). The Concept of Mind. London: Hutchinson. ISBN 9780064632515.
3. Block, N. (1995). On a confusion about a function of consciousness. Behavioral and Brain Sciences, 18(2), 227–247. doi:10.1017/S0140525X00038188
4. Comșa, I.-M. (2026). AI and Consciousness: Shifting Focus Towards Tractable Questions. arXiv preprint arXiv:2605.06965. doi:10.48550/arXiv.2605.06965
5. Beisbart, C. (2026). Epistemology of Artificial Intelligence. In E. N. Zalta & U. Nodelman (Eds.), The Stanford Encyclopedia of Philosophy (Fall 2026 Edition). https://plato.stanford.edu/entries/epistemology-ai/
6. Millière, R., & Buckner, C. (2026). Large Language Models and the Philosophy of Mind. Annual Review of Psychology, 77, 1–28.
7. Butlin, P., Long, R., et al. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. arXiv preprint arXiv:2308.08708. doi:10.48550/arXiv.2308.08708

Note

1. «Consciousness is a mongrel concept: there are a number of very different “consciousnesses.” Phenomenal consciousness is experience; the phenomenally conscious aspect of a state is what it is like to be in that state. The mark of access-consciousness, by contrast, is availability for use in reasoning and rationally guiding speech and action.» — Block, N., On a confusion about a function of consciousness, 1995. Fonte: Cambridge Core – On a confusion about a function of consciousness. Traduzione nostra.
2. «Somewhere between causal organization and phenomenal subjecthood, contemporary theories require a principle explaining why a particular physical history becomes a locus to which anything happens.» — Khadangi, A., We Built a Mirror and Mistook It for a Mind, 2026, Conclusion. Fonte: arXiv:2609.06715 (HTML). Traduzione nostra.

Podcast: Play in new window | Download