Teoremi di incompletezza e intelligenza artificiale: cosa ci dice Gödel sulle macchine che pensano

Nel 1931, un logico trentenne di nome Kurt Gödel pubblicò un articolo che avrebbe cambiato per sempre il nostro modo di intendere i limiti del ragionamento formale. I due teoremi di incompletezza non furono semplicemente una scoperta matematica: furono una sorta di profezia epistemologica, un avvertimento sui confini stessi del pensiero regolato da regole. Oggi, quasi un secolo dopo, quella profezia ritorna a interrogare l’ambizione più radicale dell’era digitale: costruire una macchina che pensi.

Il cuore del teorema: ci sono verità che i sistemi formali non possono dimostrare

Per capire cosa dice Gödel, bisogna immaginare un sistema di calcolo logico abbastanza potente da esprimere l’aritmetica elementare — qualcosa di simile a quello che oggi potremmo chiamare un linguaggio di programmazione elementare. Gödel dimostrò che in ogni sistema formale del genere, coerente e sufficientemente potente, esistono proposizioni che sono veri ma indimostrabili all’interno del sistema stesso. Queste proposizioni, note come "enunciati di Gödel", sono costruite in modo da affermare la propria indimostrabilità: in sostanza, il sistema dice "non posso dimostrare questa proposizione", e quella proposizione è vera proprio perché il sistema non può dimostrarla.

Il secondo teorema di incompletezza ci dice qualcosa di ancor più radicale: nessun sistema formale può dimostrare della propria consistenza (cioè dell’impossibilità di derivare contraddizioni) usando soltanto le proprie regole interne. Se un sistema può dimostrare la propria coerenza, allora è incoerente. La coerenza diventa un atto di fede, non un risultato dimostrabile.

La trappola del formalismo

Perché questo dovrebbe interessare chi lavora con l’intelligenza artificiale? Perché tutte le AI attuali — dai grandi modelli linguistici ai sistemi di ragionamento formale — sono, in senso stretto, sistemi formali. Operano su simboli secondo regole statistiche o deterministiche, senza mai accedere a qualcosa di simile all’introspezione o all’intuizione matematica. Ecco il punto cruciale: i teoremi di Gödel non ci dicono nulla sulla coscienza o sulla mente umana in generale, ma ci dicono molto sulle macchine che ragionano. Una macchina che ragiona secondo regole formali ha limiti insormontabili. Questi limiti sono non tecnologici, ma strutturali: derivano dall’idea stessa di "formalismo".

Se interpretassimo i teoremi di Gödel in modo diretto e letterale, potremmo dire che esistono verità matematiche che nessun sistema formale può raggiungere ma che una mente umana può riconoscere come tali. Questo è l’argomento utilizzato da John Lucas nel 1961 e da Roger Penrose negli anni Novanta per sostenere che la mente non può essere ridotta a un sistema formale. Se la mente lo fosse, non potrebbe conoscere la verità di un enunciato di Gödel relativo a se stessa. Ma la mente umana, sostengono, può.

Roger Penrose e gli spin del cervello

Penrose portò l’argomento oltre. Non si limitò a sostenere che la mente umana sfuggiva ai limiti del formalismo, ma propose una spiegazione fisica di questa supremazia. La sua tesi è che la coscienza emerga da processi quantistici che si svolgono nel cervello, in particolare nelle strutture microtubulari nei neuroni. Questi processi, suggeriva Penrose, permetterebbero al cervello di compiere calcoli che non possono essere simulati da una macchina di Turing ordinaria — una macchina che opera secondo regole formali. L’idea, sviluppata con il medico anestesista Stuart Hameroff, propose un modello biologico per la coscienza che sfruttava la meccanica quantistica per aggirare i limiti godeliani del calcolo classico.

La comunità scientifica rispose con grande scetticismo. La decoerherence quantistica nel cervello — il tempo nei quale uno stato quantistico manti la sua coerenza prima di collassare — è estremamente breve, molto più breve di quanto sarebbe necessario per condurre calcoli concettuali significativi. E il problema della misura quantistica, che richiede un osservatore esterno, rende complicato spiegare come il cervello "osservi se stesso". Ma la critica più radicale viene questa: anche se ammettessimo che il cervello sfrutti effetti quantistici in modo significativo, i sistemi formali non quantistici possono simulare qualsiasi cosa faccia un computer quantistico, anche se meno efficientemente. I teoremi di Gödel si applicano a tutto ciò che è formalizzabile, indipendentemente dal substrato fisico.

Il dibattito contemporaneo: il caso dei grandi modelli linguistici

Torniamo al presente. I grandi modelli linguistici come GPT-4, Claude o Gemini sono sistemi statistici che generano testo prevedendo la probabilità di sequenze di parole sulla base di modelli appresi da enormi quantità di dati. Non sono, in senso stretto, "sistemi formali" nel senso logico del termine. Non ragionano per deduzione ma per associazione statistica. Eppure, proprio per questa ragione, sollevano un problema interessante rispetto ai teoremi di Gödel.

Se i teoremi di Gödel limitano i sistemi che ragionano secondo regole formali, i modelli linguistici non sono sistemi formali. Ma questo non li ha trasformati in super-intelligenze senza limite: li ha resi sistemi di un tipo diverso, con limiti diversi ma altrettanto reali. Il problema che ancora aspetta una risposta è questo: sono i teoremi di Gödel rilevanti per l’AI, o il tipo di intelligenza che stiamo costruendo è così diverso che quei teoremi non si applicano?

Che cosa insegnano i teoremi al ragionamento morale delle macchine

Un recente articolo su Aeon ha sollevato una questione provocatoria: se i teoremi di Gödel ci dicono che esistono verità inaccessibili ai sistemi formali, e se l’etica morale richiede la comprensione di verità che non possono essere completamente codificate, allora le macchine non possono mai veramente "capire" l’etica nell’accezione più profonda del termine. La morale non è solo un insieme di regole da seguire — è una pratica di comprensione del perché qualcosa sia giusto o sbagliato.

Questo non significa che le macchine non possano avere un ruolo nell’etica applicata. Significa invece che l’autonomia morale assoluta delle macchine è, per ora, una chimera filosofica. I sistemi di AI che operano in contesti etici — come la medicina, la giustizia o la governance — devono essere progettati con la consapevolezza che esistono limiti formali alla loro capacità di comprensione, e che questi limiti richiedono supervisione umana, non come un problema tecnologico da risolvere, ma come un vincolo epistemologico da rispettare.

Conclusione: la lezione di Gödel per il nostro tempo

I teoremi di incompletezza di Gödel non ci dicono che le macchine non possono pensare: ci dicono che il pensiero, nel momento in cui diventa completamente formale, pone limiti che non possono essere superati dall’interno. Questa è una lezione di umiltà, non di superiorità. Non dice che le menti umane sono divinamente illuminate e le macchine sono cieche: dice che esistono diverse modalità di accesso alla verità, e che una non sostituisce l’altra.

Nell’era dell’AI generativa, in cui le macchine producono testi, immagini e ragionamenti sempre più sofisticati, i teoremi di Gödel ci ricordano che la complessità non equivale alla comprensione, che l’eloquenza non equivale alla verità, e che esistono confini al di là dei quali nessun sistema regolato da regole può andare. Questi confini non sono una sconfitta, ma una mappa. Ci dicono dove finiscono le macchine e dove comincia ciò che ancora sfugge al formalismo — che sia il mistero della coscienza umana o qualcos’altro che non siamo ancora in grado di immaginare.

I teoremi di Gödel non sono un divieto per le macchine, ma una bussola per chi le costruisce: la consapevolezza che alcune verità non possono essere ridotte a regole non è un ostacolo, ma un orientamento. Il limite è dove inizia la vera comprensione.