Nel 1980 il filosofo John Searle pubblicò un articolo destinato a diventare uno dei testi più discussi nella storia della filosofia della mente. L’esperimento mentale che vi presentò — la stanza cinese — non era soltanto un argomento contro l’intelligenza artificiale forte: era una sfida radicale a un’intera concezione di cosa significhi pensare, comprendere, avere una mente. A distanza di oltre quattro decenni, con l’avvento dei grandi modelli linguistici, la stanza cinese non è affatto archiviata. È più attuale che mai.
La questione che Searle poneva nel 1980 — i computer possono realmente pensare, o si limitano a simmare il pensiero? — ha attraversato quattro decenni di dibattito filosofico senza trovare una soluzione definitiva. Ma negli ultimi anni, con il progresso esponenziale dei grandi modelli linguistici, la domanda ha acquisito una concretezza nuova. Sistemi come GPT-4, Claude, Gemini e i loro successori non sono più semplici programmi che manipolano simboli in domini ristretti: producono testi fluidi, discutono di etica, scrivono codice, traducono tra centinaia di lingue. Per molti, questi risultati rappresentano la dimostrazione che la comprensione autentica è finalmente alla portata delle macchine. Per altri, incluso Searle, non è cambiato nulla di fondamentale: la sintassi resta sintassi, per quanto potente, e senza semantica non c’è comprensione.
L’esperimento mentale di Searle
Immaginiamo una persona chiusa in una stanza. Questa persona non conosce una sola parola di cinese. Attraverso una fessura le vengono consegnati fogli con caratteri cinesi, accompagnati da istruzioni in inglese che le dicono esattamente cosa fare: quale sequenza di simboli cinesi restituire in risposta a quale sequenza in entrata. Seguendo il manuale con sufficiente accuratezza, la persona nella stanza può produrre risposte che un parlante cinese all’esterno giudicherebbe perfettamente appropriate. Per l’osservatore esterno, la stanza sembra comprendere il cinese. Ma per chi è dentro, non c’è la benché minima comprensione: solo manipolazione formale di simboli, senza alcun accesso al loro significato.
Con questo esperimento mentale, Searle voleva dimostrare una tesi precisa: la manipolazione di simboli secondo regole formali — ciò che i computer fanno — non è sufficiente per produrre comprensione. Non importa quanto complesso sia il programma, non importa quanto sofisticate le risposte. La sintassi, da sola, non genera la semantica. Non importa quanto intelligentemente si comporti un sistema, se manca dell’intenzionalità — della capacità degli stati mentali di essere su qualcosa, di avere un contenuto significante — non c’è comprensione autentica, ma solo simulazione.
Sintassi e semantica: il muro invalicabile
Il nucleo dell’argomento di Searle risiede nella distinzione tra sintassi e semantica. La sintassi riguarda la struttura formale dei simboli: le regole che governano il modo in cui i simboli possono essere combinati e manipolati, indipendentemente dal loro significato. La semantica riguarda invece il significato, il legame tra i simboli e ciò che essi rappresentano, il modo in cui rimandano al mondo.
I programmi per computer operano esclusivamente in ambito sintattico. Un programma non elabora il concetto di “gatto” perché comprende cosa sia un gatto; lo elabora perché riconosce la sequenza di caratteri ‘g-a-t-t-o’ e dispone di regole che specificano cosa fare quando incontra quella sequenza. Per il programma, “gatto” è un pattern formale, non un riferimento a un animale peloso che miagola. Il programma non ha accesso a cosa significhi “gatto”, non ha connessione con i gatti reali del mondo.
Searle trae da questa constatazione due conclusioni fondamentali. Primo: i programmi per computer non hanno semantica, ma solo sintassi. Secondo: la semantica — la comprensione, l’intenzionalità — richiede qualcosa di più della manipolazione simbolica. Richiede un nesso causale con il mondo, un’esperienza incarnata, quella che Searle chiamerà in seguito “naturalismo biologico”: la coscienza e la comprensione sono fenomeni biologici che emergono dal funzionamento del cervello, non dal funzionamento di un programma. Come illustrato nella Stanford Encyclopedia of Philosophy, l’argomento della stanza cinese prende di mira direttamente la “IA forte”, la tesi secondo cui il computer programmato in modo appropriato letteralmente comprende e possiede stati cognitivi, non li simula soltanto.
La sfida dei grandi modelli linguistici
Da quando i grandi modelli linguistici hanno dimostrato capacità sorprendenti, molti hanno sostenuto che l’argomento della stanza cinese sia stato superato. Se un sistema come GPT-4 o Claude può discutere di filosofia, scrivere poesia, diagnosticare malattie e tradurre tra decine di lingue, non sta forse dimostrando una comprensione genuina? Come può Searle continuare a sostenere che si tratti solo di sintassi, se i risultati sembrano così profondamente semantici?
È una domanda legittima, e ha dato vita a un intenso dibattito filosofico. Emma Borg, in un articolo del 2024 intitolato LLMs, Turing tests and Chinese rooms: the prospects for meaning in large language models, ha esaminato sistematicamente la questione. La sua conclusione è cauta: i grandi modelli linguistici mancano di quella che i filosofi chiamano “intenzionalità originaria”, e dovremmo essere guardinghi nel presumere che la possedano o che sia auspicabile dotarli di essa. La simulazione della comprensione, per quanto sofisticata, non è la comprensione autentica.
David Chalmers ha adottato una posizione diversa. In una riflessione citata dalla Wikipedia filosofica, ha suggerito che mentre i modelli attuali mancano di caratteristiche come l’elaborazione ricorrente e l’agenzia unificata, i progressi dell’intelligenza artificiale potrebbero colmare queste lacune entro il prossimo decennio. Questa prospettiva sfida l’affermazione originale di Searle, argomentando che sistemi capaci di elaborazione sufficientemente complessa potrebbero effettivamente possedere stati mentali autentici.
Le risposte classiche e i loro limiti
All’argomento della stanza cinese sono state opposte numerose risposte nel corso dei decenni, ciascuna delle quali illumina un aspetto diverso del problema.
La risposta del sistema sostiene che non è l’individuo dentro la stanza a comprendere il cinese, ma il sistema nel suo complesso: la stanza, le regole, l’uomo, i fogli. Searle replica facendo un esperimento mentale ulteriore: supponiamo che l’uomo memorizzi il manuale interamente e faccia tutto nella propria testa, senza bisogno della stanza. Anche così, Searle arguisce, non capirebbe il cinese. La complessità non genera semantica.
La risposta del robot propone di embeddare il computer in un robot dotato di sensori e attuatori, così che possa interagire causalmente con il mondo. In questo caso i simboli sarebbero ancorati all’esperienza sensoriale. Searle risponde che aggiungere sensori non risolve il problema fondamentale: il sistema continuerebbe a seguire istruzioni che non comprende, continuando a manipolare simboli ancorati al mondo ma non compresi.
La risposta del simulatore cerebrale sostiene che se un computer simulasse precisamente ogni singolo neurone di un cervello umano, riprodurrebbe necessariamente i processi cognitivi e, con essi, la comprensione. Searle obietta che una simulazione perfetta del funzionamento non equivale alla produzione del fenomeno: simulare un tornado non produce pioggia.
Il problema dell’intenzionalità
Al centro della questione c’è l’intenzionalità, termine filosofico tecnico che indica la capacità della mente di essere diretta verso qualcosa, di avere contenuto significante. Quando penso al mare, il mio stato mentale è intenzionale: è circa il mare. I grandi modelli linguistici producono output che sembrano intenzionali — sembrano riguardare il mare, la giustizia, la bellezza — ma la domanda è se questa apparenza sia fondata.
È utile ricordare che lo stesso Alan Turing, nel proporre nel 1950 il suo celebre test, era consapevole di questa distinzione. Come documenta la Stanford Encyclopedia of Philosophy, Turing non intendeva il suo test come una dimostrazione che le macchine pensano, ma come una proposta pragmatica: se una macchina può conversare in modo indistinguibile da un essere umano, forse non ha senso continuare a insistere che non sta pensando. Searle ha sempre contestato questa posizione, argomentando che il comportamento non è una prova sufficiente della mente. La questione rimane oggi al centro del dibattito, e i grandi modelli linguistici l’hanno riproposta con urgenza nuova.
Come nota Eric Schwitzgebel, filosofo dell’Università della California a Riverside, in un suo recente studio del 2025 su intelligenza artificiale e coscienza, le macchine possono già superare alcuni test di bassa soglia, nonostante manchino delle capacità e delle architetture che la maggior parte degli esperti ritiene necessarie per la coscienza. Partire dal presupposto che superare un test di Turing di bassa soglia equivalga a possedere comprensione, avverte Schwitzgebel, è un’inferenza ingiustificata.
Un articolo pubblicato su Nature Humanities and Social Sciences Communications nell’ottobre 2025 ha rafforzato questa posizione: superare il test di Turing, ha scritto l’autore, indica soltanto che l’algoritmo svolge bene il suo compito — imitare efficacemente un essere umano — non che possieda coscienza o comprensione autentica.
Oltre la stanza: cosa ci dice davvero l’esperimento
A più di quarant’anni dalla sua formulazione, l’argomento della stanza cinese non ha perso la sua forza speculativa. Ha traslocato dal dibattito accademico sulla “IA forte” a una questione che riguarda quotidianamente milioni di persone: quando interagiamo con un assistente conversazionale, quando leggiamo un testo generato da un modello linguistico, quando ci affidiamo a un sistema di intelligenza artificiale per decisioni importanti, dobbiamo chiederci: questo sistema sta comprendendo davvero ciò che dice, o sta manipolando simboli con tale eleganza da farci dimenticare che dietro non c’è nessuna comprensione?
Forse la lezione più profonda della stanza cinese non è tanto che l’intelligenza artificiale non possa mai comprendere, quanto che dovremmo essere estremamente cauti nel dare per scontata la comprensione. La storia della filosofia è piena di casi in cui abbiamo attribuito menti e comprensione a sistemi che poi si sono rivelati assai meno sofisticati di quanto pensassimo: il meccanismo idraulico di Elisco, il calcolatore di Leibniz, il teorizzatore formale di Wittgenstein. L’intelligenza artificiale è soltanto l’ultimo capitolo di una lunga storia di proiezione di significato su ciò che è, in fondo, elaborazione di forme.
Ma c’è anche un’altra lezione, più inquietante. Searle stesso ha osservato che i computer operano puramente in ambito sintattico. Tuttavia, l’essere umano nella stanza cinese — l’essere che secondo Searle comprende — è, in ultima analisi, anch’esso un sistema fisico che opera secondo leggi biologiche. Se le leggi della fisica sono sufficienti a produrre la comprensione nel cervello, perché non potrebbero esserlo in un sistema sufficientemente complesso? Dove tracciare il confine tra sintassi che resta sintassi e sintassi che genera semantica?
La stanza cinese, dunque, non è soltanto un argomento tecnico di filosofia della mente: è un esercizio di umiltà epistemica. Ci ricorda che ciò che chiamiamo comprensione potrebbe essere assai più fragile e incarnato di quanto pensiamo, e che la capacità di produrre risposte appropriate non è una garanzia di comprensione autentica. Al contempo, però, ci ricorda anche che il confine tra ciò che è biologico e ciò che può essere replicato artificialmente non è così netto come vorremmo. I grandi modelli linguistici ci pongono davanti a questa doppia sfida: da un lato, ci obbligano a chiederci se la comprensione sia davvero così speciale; dall’altro, ci costringono a riconsiderare quanto sappiamo davvero di ciò che accade nelle nostre stesse menti quando comprendiamo.
Nel 2025, mentre i modelli linguistici continuano a migliorare e la ricerca sulla coscienza artificiale si intensifica, questa domanda rimane senza risposta. La stanza cinese non è un argomento chiuso. È un interrogativo permanente su cosa significhi davvero comprendere — e se la comprensione sia qualcosa che possiamo costruire, o soltanto qualcosa che possiamo trovare.
Share this content:
