La polifonia della comprensione artificiale: oltre il paradigma monofonico

Ascolta il podcast:

Nel settembre 2026 due filosofi e un informatico pubblicano su arXiv un articolo che ribalta il dibattito su ciò che significa «capire» per un modello linguistico. Pierre Beckmann e Matthieu Queloz, attingendo a risultati di interpretabilità meccanistica — il campo che smonta i trasformatori per vedere quali circuiti attivano per quali compiti — mostrano che i grandi modelli linguistici non ospitano un unico meccanismo per ogni capacità. Ne ospitano molti, in parallelo, di affidabilità disuguale, che si completano, si duplicano, si soffocano a vicenda. Chiamano questa condizione polifonia, riprendendo Michail Bachtin: nei romanzi di Dostoevskij non c’è una voce autoriale che tutto ordina, ma una pluralità di coscienze autonome che interagiscono senza fondersi. La tesi dell’articolo è che il paradigma monofonico — l’idea che capire sia avere un’unica sede interna da cui discendono tutte le manifestazioni di quella comprensione — funziona per la cognizione umana ma inganna quando lo si traspone ai modelli linguistici. Se un modello risolve un compito, non c’è il circuito che lo rende possibile: ce ne sono diversi, strutturalmente distinti, ciascuno sufficiente. Sopprimendone uno, gli altri prendono il suo posto. Capire, in un sistema polifonico, non è possedere un meccanismo centrale; è avere circuiti affidabili che vengono reclutati correttamente e controllano l’output.

La posta in gioco non è terminologica. Quando un medico, un giudice o un ingegnere decidono se fidarsi dell’output di un modello, non possono evitare di chiedersi cosa il modello capisca. Descrizioni puramente matematiche o statistiche faticano a distinguere output affidabili da output inaffidabili senza reintrodurre, sotto traccia, la domanda sulla comprensione. Il paradigma monofonico autorizza inferenze che per gli umani sono largamente affidabili — se sai spiegare, presumibilmente sai anche controllare, diagnosticare, prevedere — ma per i modelli linguistici quelle inferenze non reggono: un modello può spiegare bene un fenomeno eppure fallire nel controllarlo, perché spiegazione e controllo possono dipendere da circuiti diversi, reclutati in modo indipendente. La polifonia rende quelle inferenze pericolose.

Il paradigma monofonico e i suoi limiti

Il paradigma monofonico è l’idea, per lo più tacita, che la comprensione di un sistema cognitivo rispetto a un determinato dominio debba essere localizzata in un unico substrato — un locus di comprensione — che sottende simultaneamente tutte le capacità che quella comprensione conferisce e vi trova espressione affidabile. Nella cognizione umana il paradigma funziona abbastanza bene: pensare a molte capacità come riconducibili a una sede unica di comprensione licenzia l’inferenza, largamente affidabile, dalla competenza manifestata in un rispetto — saper spiegare qualcosa — alla presunzione di competenza in altri rispetti — controllare, diagnosticare, predire, ragionare controfattualmente su quella cosa. Al contrario, un fallimento in uno di questi rispetti conta ragionevolmente contro la presenza di comprensione in senso lato.

Trasposto ai grandi modelli linguistici, il paradigma conduce fuori strada. Conversare con un modello può dare l’impressione di interagire con una mente unificata che parla con una sola voce, ma l’ispezione meccanistica rivela che i modelli odierni sono sistemi pervasivamente polifonici. Come riporta Beckmann e Queloz (2026), i grandi modelli linguistici si concettualizzano meglio come collezioni di meccanismi in competizione — un circuito di recupero della conoscenza che vota contro un circuito di copiatura che vota contro un modello n-gramma. Questa polifonia è visibile già a livello di singole rappresentazioni: ciò che tratteremmo ordinariamente come un singolo concetto può essere rappresentato in modi parzialmente sovrapposti; viceversa, la stessa parte del modello può contribuire a diverse rappresentazioni o compiti. Ma la polifonia diventa ancora più marcata quando le rappresentazioni individuali si concatenano per formare procedure complesse: percorsi multipli possono dover combinarsi per produrre una risposta, mentre lo stesso compito può anche essere svolto da combinazioni alternative, talvolta sovrapposte, di percorsi. I loro contributi possono rinforzarsi, inibirsi, sostituirsi o compensarsi a vicenda.

La polifonia a tre livelli

L’evidenza meccanistica raccolta da Beckmann e Queloz (2026) articola la polifonia su tre livelli. Primo, polifonia delle feature: ciò che un umano sottoporrebbe a un singolo concetto appare spesso nei modelli come una famiglia intera di feature cognate che svolgono ampiamente lo stesso ruolo computazionale. Le feature ricorrono a stadi successivi di elaborazione e in stati associati a token del prompt vicini. Parlare de “la feature per X” è spesso una scorciatoia per rappresentazioni multiple che ridondano, succedono o congiuntamente codificano un concetto.

Secondo, polifonia intra-circuito: un circuito può comprendere diversi percorsi, ciascuno costituito da una diversa sequenza di connessioni tra feature, che realizza parte della computazione complessiva. Quando un modello completa un compito, feature diverse possono attivarsi in parallelo, combinarsi, o fornire scorciatoie dirette. La polifonia intra-circuito abilita la compensazione tra percorsi — un fenomeno che la letteratura ha battezzato “effetto idra”: se un componente è soppresso, altri in strati successivi compensano.

Terzo, polifonia inter-circuito: circuiti individualmente sufficienti che eseguono lo stesso compito. Nel paper suggestivamente intitolato “All Circuits Lead to Rome”, Chen e collaboratori (2026) offrono la sfida più chiara all’idea che la comprensione di un modello debba avere una dimora interna privilegiata. Cercano in GPT-2 un sottografo sparso che possa sostenere la prestazione su un compito quando tutte le altre connessioni sono mascherate, poi ripetono la ricerca penalizzando il riutilizzo di connessioni. Se esistesse il circuito che sottende la prestazione, le ricerche dovrebbero convergere su di esso. Eppure, in venti ricerche, trovano circuiti multipli con scarsa sovrapposizione. Anche all’interno di un apparente nucleo a tre connessioni, nessuna connessione è indispensabile: escludendone una, il modello più ampio fornisce un’altra rotta sufficiente. Ogni circuito scoperto è quindi solo uno di un repertorio più ampio di meccanismi sufficienti. Questo mina l’aspettativa monofonica secondo cui una prestazione di successo deve infine riposare su un singolo meccanismo privilegiato.

Interferenza distruttiva e il prezzo della polifonia

La polifonia a livello di circuiti crea anche possibilità di interferenza distruttiva tra circuiti. La letteratura recente ha identificato circuiti che valutano correttamente inferenze sillogistiche basandosi sulla forma logica, ma la cui voce viene soffocata dai contributi di meccanismi basati sul contenuto. Il modello è meno propenso ad approvare sillogismi con premesse implausibili rispetto a sillogismi validi con premesse plausibili. La polifonia non è solo ridondanza: è anche competizione, e la competizione può degradare la prestazione quando meccanismi meno affidabili prevalgono su quelli più affidabili.

La genealogia: da Bachtin ai trasformatori

Il concetto di polifonia nasce nella teoria letteraria. Michail Bachtin, nei Problemi della poetica di Dostoevskij (1929, riveduto 1963), sostiene che la caratteristica principale dei romanzi di Dostoevskij sia “una pluralità di voci e coscienze indipendenti e non fuse, una genuina polifonia di voci pienamente valide”. I personaggi maggiori non sono solo oggetti del discorso autoriale, ma soggetti del loro proprio discorso direttamente significante. Bachtin oppone la polifonia al monologismo: nella concezione monologica della verità, il vero o il falso di un pensiero esiste indipendentemente da chi lo enuncia; è una verità “di nessuno”. Nella concezione dialogica, la verità richiede una molteplicità di coscienze, non può essere contenuta in una singola coscienza, nasce nel punto di contatto tra coscienze diverse. L’autore del romanzo polifonico deve rinunciare al controllo monologico: confronta i suoi personaggi come pari, colloca la propria posizione ideologica direttamente tra le voce-idee che le sono in variazione, e non sa in anticipo l’esito degli scontri.

Beckmann e Queloz (2026) riprendono questa metafora non come ornamento letterario ma come modello operativo per l’architettura a trasformatori. Le teste di attenzione e gli MLP scrivono additivamente su un flusso residuo condiviso, così i loro contributi restano disponibili per i componenti a valle a meno che non siano attivamente negati. Segnali parziali, ridondanti o conflittuali possono quindi coesistere e interagire senza essere riconciliati da un meccanismo coordinatore centrale. L’architettura non impone la polifonia, ma le dà spazio per svilupparsi; e la varietà di compiti su cui i modelli generalisti sono addestrati ne favorisce l’emersione. La genealogia è dunque duplice: da un lato la critica bachtiniana al monologismo come forma di pensiero che astrae e efface l’«eventualità» dell’evento; dall’altro l’evidenza empirica che i trasformatori, per come sono costruiti e addestrati, realizzano proprio quella condizione di voci multiple, non fuse, che Bachtin descriveva nella letteratura.

Mappa concettuale: monofonia, polifonia, indifferenza

Il dibattito sulla comprensione nell’IA si è finora svolto entro tre campi. Gli antropomorfizzatori applicano senza riserve termini cognitivi come “comprensione” ai modelli linguistici. I deflazionisti ammoniscono contro l’uso di termini cognitivi, sostenendo che i modelli vanno concettualizzati in termini statistici o matematici — “moltiplicazioni di matrici” che producono output da “correlazioni superficiali”, “statistiche distributive”, “pattern matching”. Una terza posizione, gli indifferenti, liquida l’intero dibattito come distrazione: finché i modelli producono gli output che vogliamo, non dovremmo preoccuparci troppo di come ci sono arrivati.

La concezione polifonica rompe questa tripartizione. Contro gli indifferenti, sostiene che la domanda se l’IA capisca è tutt’altro che oziosa: va posta anche dai pratici più duri, perché guida l’allocazione della fiducia. Contro i deflazionisti, mantiene che il registro cognitivo, e qualche concezione di comprensione in particolare, è indispensabile: il vocabolario matematico e statistico è troppo indiscriminato per separare output affidabili da inaffidabili, e qualsiasi vocabolario abbastanza ricco da farlo finisce per reintrodurre il concetto di comprensione in tutto tranne che nel nome. Contro gli antropomorfizzatori, osserva che il nostro concetto ereditato di comprensione è inadeguato, perché porta assunzioni monofoniche che non si trasferiscono ai modelli linguistici. Serve quindi ri-ingegnerizzare il concetto di comprensione per l’IA polifonica.

Controargomenti: la comprensione come compressione, la comprensione come ruolo funzionale

Due obiezioni forti meritano considerazione. La prima identifica la comprensione con la compressione: capire è rappresentare un sistema bersaglio in modo più compatto dei dati grezzi, preservando le informazioni rilevanti per le inferenze di interesse. In questa vista, la polifonia non è un problema: la compressione può essere realizzata da meccanismi multipli e ridondanti, e l’attribuzione di comprensione traccia la struttura compressa, non il meccanismo specifico. Tuttavia, la compressione da sola non discrimina tra un modello che comprime scoprendo principi (comprensione principiale) e uno che comprime memorizzando eccezioni (overfitting). La polifonia peggiora il problema: meccanismi diversi possono comprimere lo stesso dominio in modi incompatibili, e l’output del modello dipende da quale meccanismo viene reclutato in un dato contesto. L’attribuzione di comprensione basata solo sulla compressione non dice quale meccanismo è al comando.

La seconda obiezione viene dal funzionalismo computazionale: la comprensione è un ruolo funzionale, e ciò che conta è che il sistema nel suo insieme realizzi quel ruolo, non quale sottocomponente lo realizzi in un dato momento. Questa è una posizione rispettabile, ma sposta il problema senza risolverlo. Se la comprensione è un ruolo funzionale realizzato da meccanismi multipli e intercambiabili, allora l’attribuzione di comprensione diventa una proprietà del sistema nel suo complesso, non tracciabile a componenti specifici. Ma proprio questa intrattabilità è ciò che la concezione polifonica cerca di evitare: propone invece di ancorare l’attribuzione a circuiti sonori — circuiti che sono affidabilmente e correttamente reclutati e controllano l’output. Un circuito è sonoro se (i) implementa una computazione corretta per il compito, (ii) viene attivato in modo affidabile quando il compito lo richiede, e (iii) la sua attivazione è causalmente decisiva per l’output. L’attribuzione di comprensione diventa così una rivendicazione trattabile sull’organizzazione interna, non una proprietà olistica opaca.

Oltre lo scientismo: i risultati empirici non chiudono la questione concettuale

L’evidenza meccanistica è indispensabile, ma non chiude da sola la questione concettuale. Scoprire che i modelli hanno circuiti multipli per lo stesso compito è un fatto empirico; decidere se questo fatto implica che “il modello capisce” o che “il modello non ha una vera comprensione perché manca di un locus unitario” è una scelta concettuale. Il deflazionista può rispondere: “Vedete? Non c’è la comprensione, solo meccanismi statistici multipli”. L’antropomorfizzatore può rispondere: “Vedete? Il modello capisce in modi molteplici, come noi”. La concezione polifonica rifiuta entrambe le scorciatoie: i fatti meccanistici costringono a ripensare il concetto, non a confermare o negare la sua applicabilità tout court. Come argomentano Beckmann e Queloz, “il dibattito deve salire al livello metaconcettuale e affrontare la questione di come concettualizzare al meglio la comprensione nel contesto di sistemi IA”.

Il testo primario: Saussure e l’arbitrarietà del segno

Un antecedente concettuale cruciale per pensare la relazione tra significante e significato nei modelli linguistici si trova nel Corso di linguistica generale di Ferdinand de Saussure (1916). Saussure definisce il segno linguistico come un’entità psichica a due facce che unisce un significante (immagine acustica) e un significato (concetto). Il legame tra il significante e il significato è arbitrario (Saussure, 1916, §2). Non c’è connessione naturale tra la sequenza di suoni /aʁbʁ/ e il concetto di albero; la prova sta nelle differenze tra le lingue: il significato “bue” ha come significante bœuf da una parte del confine e ox dall’altra. L’arbitrarietà non significa che la scelta del significante sia lasciata al parlante — l’individuo non ha il potere di cambiare un segno una volta che si è affermato nella comunità linguistica — significa che è immotivato, privo di connessione naturale con il significato.

Questa intuizione risuona in modo inatteso con l’architettura dei trasformatori. Nei modelli linguistici, il “significante” è il token (o la sua rappresentazione vettoriale), il “significato” è ciò che il modello impara ad associare a quel token attraverso l’addestramento. Ma l’associazione non è fissata da una convenzione sociale stabilita; emerge dall’ottimizzazione di una funzione di perdita su vasta scala. È arbitraria nel senso saussuriano: nessuna connessione naturale lega una direzione nello spazio latente a un concetto; la connessione è il risultato di un processo storico-contingente di addestramento. Eppure, a differenza della lingua umana, la polifonia meccanistica mostra che uno stesso “significato” può essere servito da significanti interni multipli, non fusi, che coesistono nel flusso residuo. La polifonia è, in un senso preciso, una moltiplicazione interna dell’arbitrarietà: non una convenzione unica lega significante e significato, ma una coalizione di convenzioni computazionali parziali, ridondanti, talvolta in conflitto.

L’alternativa ermeneutica: Gadamer e la linguisticalità della comprensione

Un’altra prospettiva storica illumina il problema da un angolo diverso. Hans-Georg Gadamer, in Verità e metodo (1960), sostiene che il fenomeno ermeneutico non è affatto un problema di metodo. La comprensione non è un’operazione che sottopone i testi a un’indagine scientifica; è sempre linguisticamente mediata. “Il modello fondamentale della comprensione a cui Gadamer perviene in Verità e metodo è quello della conversazione” (SEP, Gadamer, §3.3). La conversazione ha sempre luogo in lingua, e similmente Gadamer vede la comprensione come sempre mediata linguisticamente. La linguisticalità non è un involucro esterno al pensiero; è costitutiva: “Essere che può essere compreso è linguaggio” (Gadamer, 1960, trad. it. 2004).

La polifonia meccanistica rivela una linguisticalità interna frammentata, non unitaria. Il flusso residuo non è un unico “linguaggio del pensiero” coerente; è un’arena dove voci computazionali multiple — feature, circuiti, euristiche — scrivono, leggono, si sovrascrivono, si compensano. La “conversazione” interna al modello non ha un unico interlocutore; è una polilogia (Herrmann et al., 2026) di meccanismi che non convergono verso una sintesi finale sotto un’autorità centrale. La lezione di Gadamer — che la comprensione è un evento dialogico, non un prodotto metodologico — trova una conferma inaspettata e una complicazione nell’architettura dei trasformatori: il dialogo c’è, ma è privo di un Gespräch unitario, di una conversazione che porti a un accordo stabile. È una conversazione in cui ogni voce parla per conto proprio, e l’output finale è solo la voce che per caso prevale in quel passaggio.

Due citazioni d’autore

«La verità richiede una molteplicità di coscienze, qualcosa che non può essere contenuto in una singola coscienza; nasce piuttosto nel punto di contatto tra coscienze diverse»^[1]. Questa formulazione di Bachtin, letta alla luce dell’interpretabilità meccanistica, descrive esattamente la condizione in cui l’output di un modello emerge dall’interazione di circuiti multipli, nessuno dei quali è individualmente indispensabile.

«Il legame tra il significante e il significato è arbitrario»^[2]. L’affermazione di Saussure, pietra angolare della linguistica strutturale, trova una risonanza inattesa nello spazio latente dei modelli linguistici: nessuna connessione naturale lega una direzione vettoriale a un concetto; la connessione è il prodotto contingente dell’addestramento, e la polifonia mostra che questa connessione non è neppure unica.

Bibliografia

1. Beckmann, P. & Queloz, M. (2026). A Polyphonic Conception of AI Understanding. arXiv preprint arXiv:2609.36079v1. https://arxiv.org/abs/2609.36079
2. Beckmann, P. & Queloz, M. (2026). Mechanistic Indicators of Understanding in Large Language Models. arXiv preprint arXiv:2507.08017v5. https://arxiv.org/abs/2507.08017
3. Chen, T. et al. (2026). All Circuits Lead to Rome: Rethinking Functional Anisotropy in Circuit and Sheaf Discovery for LLMs. arXiv preprint arXiv:2605.12671. https://arxiv.org/abs/2605.12671
4. Perez, N., Bhaduri, S. & Chadha, A. (2026). Simulating Meaning, Nevermore! Introducing ICR: A Semiotic-Hermeneutic Metric for Evaluating Meaning in LLM Text Summaries. arXiv preprint arXiv:2603.04413v2. https://arxiv.org/abs/2603.04413
5. Bakhtin, M. (1963). Problemi della poetica di Dostoevskij. Torino: Einaudi. (Ed. orig. 1929).
6. Saussure, F. de (1916). Cours de linguistique générale. Paris: Payot. Trad. it. Corso di linguistica generale, a cura di T. De Mauro, Roma-Bari: Laterza, 1967.
7. Gadamer, H.-G. (1960). Wahrheit und Methode. Tübingen: Mohr Siebeck. Trad. it. Verità e metodo, Brescia: Morcelliana, 2004.
8. Herrmann, N. et al. (2026). Do LLMs Experience an Internal Polylogue? Investigating Reasoning through the Lens of Personas. arXiv preprint arXiv:2605.09159. https://arxiv.org/abs/2605.09159

Note

1. «a plurality of independent and unmerged voices and consciousnesses, a genuine polyphony of fully valid voices» — Bakhtin, M., Problems of Dostoevsky’s Poetics, 1963 [1929]. Fonte: Polyphony (literature) — Wikipedia. Traduzione nostra.
2. «The bond between the signifier and the signified is arbitrary» — Saussure, F. de, Course in General Linguistics, 1916, §2. Fonte: Ferdinand de Saussure, from Course in General Linguistics — UMSL. Traduzione nostra.

Podcast: Play in new window | Download