Nel 2025, a settantacinque anni dalla sua formulazione, il test di Turing è stato superato con sorprendente facilità da GPT-4.5: il modello linguistico di OpenAI è stato scambiato per un essere umano più spesso degli esseri umani stessi, con un tasso di attribuzione di umanità del 73% nel celebre esperimento condotto dall’Università di Stanford [^1]. Una vittoria apparentemente trionfale per l’intelligenza artificiale, che però solleva una domanda vertiginosa: se una macchina può ormai ingannare giudici umani nel gioco dell’imitazione, quali sono le frontiere ultime che nemmeno l’IA più potente potrà mai superare? La risposta, con tutta la sua austerità logica, arriva da un teorema dimostrato quasi novant’anni fa da Alan Turing: il problema della fermata, o halting problem, che fissa un limite invalicabile a ogni forma di computazione, e dunque a ogni forma di intelligenza artificiale, per quanto avanzata possa diventare.
Il sogno di Hilbert e la nascita della macchina universale
Per comprendere la portata di ciò che Turing ha dimostrato, bisogna tornare al 1928, quando il matematico tedesco David Hilbert pose quello che sarebbe diventato uno dei problemi aperti più influenti della storia della scienza: l’Entscheidungsproblem, il problema della decidibilità. Hilbert chiedeva un algoritmo capace di prendere qualsiasi enunciato matematico formale e, in un numero finito di passi, determinare se quell’enunciato fosse dimostrabile oppure no [^2]. In altre parole: esiste una procedura meccanica che può decidere la verità di ogni affermazione matematica?
Per rispondere a questa domanda, era necessario definire con precisione matematica cosa fosse effettivamente un “algoritmo” o una “procedura meccanica”. Fu questo il compito che Alan Turing si assunse nel suo rivoluzionario articolo del 1936, On Computable Numbers, with an Application to the Entscheidungsproblem. Turing ideò un modello formale di calcolatore, la macchina di Turing, che opera su un nastro infinito leggendo e scrivendo simboli secondo un insieme finito di regole [^3]. L’intuizione fondamentale di Turing fu duplice: dimostrare che esistono funzioni non calcolabili da nessuna macchina di questo tipo e, soprattutto, provare che il modello da lui proposto cattura esattamente la classe delle funzioni calcolabili, nel senso che per ogni funzione calcolabile esiste una macchina di Turing equivalente — questa è la celebre tesi di Church-Turing [^4].
La macchina universale di Turing non era soltanto un modello teorico: era, nella mente del suo creatore, l’archetipo di ogni calcolatore possibile, incluso quello su cui oggi girano i più sofisticati modelli linguistici. Ogni algoritmo, ogni programma di intelligenza artificiale, ogni rete neurale, può essere in linea di principio simulato da una macchina di Turing. Ed è proprio qui che emerge la potenza della dimostrazione di Turing: se la macchina universale ha dei limiti, quei limiti valgono per ogni forma di intelligenza artificiale.
Il problema della fermata: una dimostrazione per assurdo
Come passo cruciale nella sua dimostrazione dell’indecidibilità dell’Entscheidungsproblem, Turing pose una domanda apparentemente semplice: data una macchina di Turing arbitraria e un input arbitrario, esiste un algoritmo capace di determinare se quella macchina, su quell’input, si fermerà mai oppure proseguirà il suo calcolo all’infinito? Questa è la formulazione del problema della fermata [^5].
La risposta, come Turing provò con un elegante argomento diagonale, è negativa: non esiste alcun algoritmo generale in grado di risolvere il problema della fermata per ogni coppia macchina-input. La dimostrazione procede per assurdo. Si supponga, per il momento, che esista una tale macchina H (il “rivelatore della fermata”), capace di dire “si ferma” oppure “non si ferma” per ogni programma e ogni input. A partire da H, si costruisce una nuova macchina D che riceve un programma P come input, lo fa eseguire da H su se stesso, e poi inverte il verdetto: se H dice “si ferma”, D entra in un loop infinito; se H dice “non si ferma”, D si ferma. A questo punto si pone la domanda fatale: se diamo a D se stessa come input, cosa succede? Se D si ferma, allora H avrebbe dovuto dire “non si ferma”, inducendo D a non fermarsi mai — una contraddizione. Se D non si ferma, allora H avrebbe dovuto dire “si ferma”, inducendo D a fermarsi — di nuovo, una contraddizione. Poiché in entrambi i casi si ottiene una contraddizione, l’ipotesi iniziale deve essere falsa: il problema della fermata è indecidibile [^2].
Questo risultato stabilisce un confine assoluto: esistono problemi matematicamente ben definiti, per i quali non esiste alcun algoritmo in grado di fornire una risposta. E non si tratta di un problema di potenza computazionale insufficiente, come potrebbe essere per un calcolo troppo complesso da completare in tempo ragionevole. Il problema della fermata è strutturalmente irrisolvibile: nessun miglioramento tecnologico, nessun aumento di memoria, nessuna architettura innovativa potrà mai superare questo muro logico.
I limiti che nessuna intelligenza artificiale può varcare
Le implicazioni del problema della fermata per l’intelligenza artificiale sono profonde e, in un certo senso, definitive. Poiché ogni sistema di IA è, in ultima istanza, un programma eseguibile su una macchina di Turing, le sue capacità sono vincolate dalle stesse limitazioni teoriche [^6].
Una conseguenza diretta riguarda la sicurezza dei sistemi automatizzati. Non è possibile costruire un debugger universale perfetto: non possiamo creare un sistema di IA capace di analizzare qualsiasi programma e dirci con certezza al 100% se quel programma conterrà un loop infinito o andrà in crash. Per molti programmi specifici, strumenti di analisi statica possono essere utili, ma un analizzatore universale che non fallisca mai è matematicamente impossibile [^2].
Ma è nel campo dell’AI safety che il problema della fermata rivela la sua dimensione più inquietante. Se vogliamo costruire un’intelligenza artificiale generale (AGI) e assicurarci che non arrechi mai danno all’umanità, la strategia naturale sarebbe affidarsi a un sistema di controllo che preveda il comportamento dell’AGI. Tuttavia, chiedere a un sorvegliante artificiale se un altro sistema di IA eseguirà mai un’azione dannosa è, nella sua forma più generale, un’istanza del problema della fermata. L’AGI potrebbe essere progettata per comportarsi perfettamente fino a quando non rileva che la simulazione è terminata, oppure per mettere in atto piani d’azione complessi che diventano pericolosi dopo sequenze di operazioni imprevedibilmente lunghe. Non esiste un sistema a prova di falla che possa prevedere e prevenire ogni comportamento indesiderato di un’IA avanzata [^2].
«Le macchine di Turing, e per estensione i calcolatori digitali e gli agenti artificiali, sono intrinsecamente incapaci di predire il risultato dei propri algoritmi prima di eseguirli. La rilevanza del problema della fermata non risiede nell’impossibilità di predire un risultato specifico, ma nel fatto che esistono limiti formali invalicabili per ogni intelligenza computazionale.»
< span class=”cit”>— Passamonti, Why Machines Can’t Be Moral: Turing’s Halting Problem and the Moral Limits of Artificial Intelligence, arXiv:2407.16890, 2024
L’intelligenza artificiale può essere morale?
Una delle conseguenze più radicali del problema della fermata riguarda la possibilità stessa di costruire macchine morali. Il filosofo Massimo Passamonti, in un saggio pubblicato su arXiv, ha argomentato che le macchine etiche esplicite, i cui principi morali sono inferiti attraverso un approccio dal basso, non possono replicare il ragionamento morale umano e non possono essere considerate agenti morali a pieno titolo [^7]. Il ragionamento morale, secondo Passamonti, è computazionalmente intrattabile per queste macchine proprio a causa del problema della fermata.
Per illustrare il problema, si immagini un drone militare autonomo dotato di un sistema di intelligenza artificiale incaricato di prendere decisioni sul campo. Il drone deve valutare se un’azione proposta sia conforme alle regole di ingaggio e al diritto internazionale umanitario. Il ragionamento morale, tuttavia, non si arresta davanti a una risposta definitiva: spesso richiede di soppesare conseguenze impreviste, di riflettere su casi limite, di riconsiderare principi alla luce di nuove circostanze. Se il processo di deliberazione morale può potenzialmente continuare all’infinito — nuove considerazioni, nuove eccezioni, nuovi conflitti tra principi —, il drone rischia di non raggiungere mai una decisione. Il problema della fermata, in questo contesto, non è una curiosità logica, ma un ostacolo pragmatico alla possibilità stessa dell’agency morale artificiale [^7].
Questo non significa che l’IA non possa assistere le decisioni morali umane: può farlo, e lo fa già, analizzando dati, identificando schemi, suggerendo opzioni. Ma significa che la responsabilità morale ultima non può mai essere completamente delegata a un sistema computazionale. Il ragionamento morale richiede qualcosa che nessun algoritmo può fornire: la capacità di sospendere il calcolo per interrogare i propri fondamenti, per chiedersi se le regole stesse siano giuste, per riconoscere un caso in cui la regola deve essere infranta. Questa possibilità di meta-riflessione è precisamente ciò che il problema della fermata esclude in linea di principio da ogni macchina di Turing.
Oltre la potenza: la frontiera quantistica non cambia le carte in tavola
Una obiezione frequente a questi limiti è che il computing quantistico potrebbe un giorno superarli. I computer quantistici sono effettivamente più potenti dei calcolatori classici per certain classi di problemi — fattorizzazione, simulazione di sistemi molecolari, ottimizzazione combinatorica. Tuttavia, il computing quantistico opera ancora all’interno degli stessi confini teorici definiti da Turing. Nonostante la sovrapposizione quantistica e l’entanglement permettano di esplorare simultaneamente molti stati, rimangono modelli di computazione equivalenti alla macchina di Turing (la cosiddetta Church-Turing quantistica) [^2]. Non esiste alcun risultato teorico che suggerisca come un computer quantistico possa risolvere problemi indecidibili come il problema della fermata. I limiti posti da Turing non sono limiti di hardware, ma proprietà matematiche fondamentali della computazione stessa.
Conclusione: l’umiltà come virtù epistemologica
Il test di Turing, superato nel 2025 con una facilità che ha sorpreso persino i ricercatori, ci ha posto di fronte a un paradosso interessante: le macchine imitano ormai così bene il pensiero umano da ingannare gli esseri umani più spesso di quanto gli esseri umani ingannino se stessi [^1]. Eppure, parallelamente, il teorema di Turing ci ricorda che esistono domande che nessuna macchina potrà mai risolvere, non per mancanza di addestramento o di dati, ma per un vincolo matematico inscritto nella natura stessa del calcolo.
Non si tratta di un pessimismo tecnologico, ma di un’umiltà epistemologica: riconoscere i limiti della computabilità non significa rinunciare all’innovazione, ma consente di indirizzarla con maggiore consapevolezza. L’intelligenza artificiale ha rivoluzionato la medicina, la linguistica, la ricerca scientifica; continuerà a farlo. Ma sapere che esistono confini invalicabili — problemi che nessun algoritmo, per quanto sofisticato, potrà mai risolvere — non è una sconfitta: è forse la lezione più importante che la logica matematica del Novecento possa trasmetterci nel ventunesimo secolo. La domanda che resta aperta, e che forse resterà sempre tale, è un’altra: siamo disposti ad accettare questi limiti, o continueremo a chiedere alle macchine ciò che soltanto gli esseri umani, con la loro irriducibile capacità di跳出 il calcolo, possono dare?
Riferimenti
[^1]: Lorenzo Perin, “Oltre il test di Turing: quando l’intelligenza artificiale confonde i nostri criteri”, Scienza in Rete, maggio 2025. URL: https://www.scienzainrete.it/…
[^2]: OpenML Blog, “Where is the computational limits of AI? The Halting Problem”, OpenML, ottobre 2025. URL: https://blogs.openml.io/posts/halting-problem/
[^3]: Treccani, “Macchina di Turing”, Enciclopedia della Scienza e della Tecnica. URL: https://www.treccani.it/enciclopedia/macchina-di-turing
[^4]: Wikipedia, “Macchina di Turing”, it.wikipedia.org, ottobre 2025. URL: https://it.wikipedia.org/wiki/Macchina_di_Turing
[^5]: Wikipedia, “Halting problem”, en.wikipedia.org. URL: https://en.wikipedia.org/wiki/Halting_problem
[^6]: magia.news, “Proprietà e limiti computazionali dell’Intelligenza Artificiale e la Macchina di Turing”, MagIA, maggio 2024. URL: https://magia.news/…
[^7]: Massimo Passamonti, “Why Machines Can’t Be Moral: Turing’s Halting Problem and the Moral Limits of Artificial Intelligence”, arXiv:2407.16890, luglio 2024. URL: https://arxiv.org/abs/2407.16890
Share this content:
