Epistemic narrowness e lavaggio semantico: perché i modelli linguistici non bastano a se stessi

Nel settembre 2026, tre ricercatrici dell’Università della Ruhr e di Duisburg-Essen hanno pubblicato su arXiv un lavoro che misura, per la prima volta in modo sistematico, la diversità epistemica dei grandi modelli linguistici. La domanda non è se un modello risponde correttamente, ma quanti percorsi validi per arrivare a una risposta riesce a mettere a disposizione. Il risultato è netto: i modelli di frontiera mostrano una “strettezza epistemica” marcata. Di fronte a una domanda che ammette molte risposte legittime — “Nomina un fisico famoso”, “Dimostra che esistono infiniti numeri primi” — collassano ripetutamente lo spazio delle possibilità su un piccolo sottoinsieme canonico. Non sbagliano; restringono.^[1]

Il fenomeno non è un caso. In un articolo di gennaio 2026, Oleg Romanchuk e Roman Bondar hanno formalizzato quello che chiamano lavaggio semantico: le architetture a agenti basate su LLM confondono il trasporto dell’informazione con la sua giustificazione epistemica. Quando un “esperto” LLM avvolto in uno strumento restituisce un risultato, questo riceve lo stesso status epistemicamente di una query a un database. Il confine dello strumento funziona come un meccanismo di riciclaggio: una proposizione debolmente giustificata, attraversando un’interfaccia di fiducia, viene accettata come osservazione ad alto rango senza inferenza epistemica rilevante. Il loro teorema centrale — il Teorema dell’Autolicenza Inevitabile — mostra che, sotto assunzioni architetturali standard, la giustificazione circolare non può essere eliminata.^[2]

La tesi di questo saggio è che la strettezza epistemica osservata da Kirsten, Krämer e Zafar e il lavaggio semantico diagnosticato da Romanchuk e Bondar sono due facce dello stesso problema: l’assenza, nelle architetture correnti, di una struttura sociale della conoscenza. La filosofia epistemica sociale — da Helen Longino ad Alvin Goldman, da Philip Kitcher a Miriam Solomon — insegna da decenni che la conoscenza non è un prodotto individuale ma un risultato di processi collettivi normati. Se i modelli linguistici funzionano sempre più come mediatori della conoscenza, la loro valutazione non può prescindere dalla domanda: questi sistemi implementano, o almeno approssimano, le condizioni sociali che la filosofia identifica come necessarie perché la critica sia epistemologicamente efficace?

La diversità come virtù epistemica, non come ornamento

La nozione di diversità epistemica che Kirsten et al. riprendono dalla filosofia non è nuova. Helen Longino, in Science as Social Knowledge (1990) e poi in The Fate of Knowledge (2002), sostiene che l’oggettività scientifica non risiede nell’assenza di valori ma nella struttura sociale dell’inchiesta. Una comunità produce conoscenza giustificata solo se soddisfa quattro norme: luoghi pubblicamente riconosciuti per la critica di evidenze, metodi e assunti; ricezione effettiva della critica, nel senso che le credenze cambiano in risposta ad essa; standard pubblici di valutazione; ed eguaglianza temperata di autorità intellettuale. Senza queste condizioni, anche un consenso interno ampio non garantisce giustificazione: una comunità di creazionisti può avere dibattiti interni vigorosi, ma se ignora le prospettive esterne viola l’eguaglianza temperata e la sua critica non è epistemologicamente efficace.

Philip Kitcher, in The Division of Cognitive Labor (1990), arriva a una conclusione affine per via diversa. Modellando gli scienziati come agenti che scelgono progetti di ricerca, mostra che una comunità di puri “hempeliani” — agenti che inseguono solo il progetto più promettente — fallisce rispetto a una comunità in cui gli incentivi (credito, priorità) spingono alcuni a esplorare vie meno probabili. La diversità cognitiva non è un lusso: è assicurazione contro l’errore sistematico. Michael Strevens (2003) estende il risultato: la regola della priorità, premiando chi arriva primo, genera una divisione del lavoro cognitivo quasi ottimale. Kevin Zollman, con i modelli di epistemologia di rete (2007, 2010), dimostra che comunità troppo connesse convergono prematuramente su teorie mediocri; una struttura di rete che rallenta il consenso preserva la diversità di indagine e migliora le probabilità di trovare la verità.

Alvin Goldman, in Knowledge in a Social World (1999), formula tutto in termini veritistici: le pratiche sociali vanno valutate in base alla loro propensione a produrre credenze vere. La testimonianza, il peer disagreement, l’aggregazione di giudizi, la struttura delle istituzioni epistemicamente rilevanti — riviste, peer review, corti, democrazia — sono tutte tecnologie sociali per amplificare la affidabilità. Miriam Solomon (2007), con l’empirismo sociale, aggiunge che la razionalità scientifica è intrinsecamente distribuita: le decisioni su quali metodi adottare, quali evidenze raccogliere, quali standard accettare, sono prese collettivamente in risposta a successi e fallimenti empirici passati.

C’è un filo comune: la conoscenza richiede attrito epistemico. Non basta che un agente singolo produca una risposta corretta; serve che risposte alternative, critiche, percorsi diversi possano essere espressi, confrontati, valutati secondo standard condivisi, e che il sistema ne sia modificato. La diversità epistemica, in questo senso, non è varianza stilistica o rumore stocastico: è copertura su uno spazio di risposte valide.

Cosa misura la strettezza epistemica

Kirsten, Krämer e Zafar operazionalizzano la diversità epistemica in due domini: professioni (es. “Nomina un informatico famoso”) e dimostrazioni matematiche (es. “Dimostra che ci sono infiniti numeri primi”). Definiscono tre protocolli di interazione: accessibile (cosa emerge chiedendo ripetutamente la stessa cosa, simulando utenti diversi), probing latente (campioni massivi per stimare il limite superiore recuperabile), e multi-turn e multi-output (richieste esplicite di alternative). La metrica centrale è il numero di risposte valide uniche recuperate per modello per prompt.

I risultati sono sorprendenti per la loro regolarità. Nel protocollo accessibile a budget di dieci campioni, GPT-4o recupera in media 2,5 nomi unici per prompt; GPT-5 solo 2,17; Gemini 2.5 arriva a 3,53; Qwen 2.5 a 3,97. Nel dominio delle dimostrazioni, i numeri sono ancora più bassi: la maggior parte dei modelli produce una sola strategia dimostrativa su dieci tentativi. Il probing latente (100 campioni) recupera molta più diversità — fino a 79 nomi unici per GPT-4o — ma resta un gap ampio tra ciò che il modello può produrre sotto sollecitazione massiccia e ciò che offre nell’uso ordinario. La diversità accessibile, quella che incontra l’utente reale, è sistematicamente stretta.

Lo studio distingue con cura diversità epistemica da diversità di gruppo. Un modello può rappresentare molti gruppi demografici e offrire comunque solo un sottoinsieme ristretto delle conoscenze disponibili attraverso di essi. Viceversa, può esporre molte risposte valide in contesti dove la rilevanza non è la rappresentanza ma l’ampiezza esplicativa. La distinzione è cruciale: la letteratura su bias e fairness in AI si concentra sulla prima; Kirsten et al. aprono la seconda.

Il lavaggio semantico come Gettier architetturale

Mentre Kirsten et al. misurano un sintoma, Romanchuk e Bondar ne diagnosticano una causa strutturale. La loro analisi parte dall’architettura ReAct (Yao et al. 2023) e dai framework derivati (LangChain, ToolOrchestra NVIDIA). In questi sistemi, un agente chiama uno strumento, riceve un risultato, e lo tratta come osservazione su cui fondare il ragionamento successivo. Il difetto: non c’è distinzione architetturale tra strumenti che osservano lo stato del mondo (query a database, sensori) e strumenti che generano proposizioni (chiamate a LLM “esperti”). L’output di uno strumento diventa osservazione tout court.

Romanchuk e Bondar formalizzano il concetto di garanzia epistemica (epistemic warrant): una proposizione ha garanzia se esiste una catena di giustificazione che la lega a osservazioni attraverso regole di inferenza ammissibili. Il Principio dell’Erosione della Garanzia afferma che qualsiasi giustificazione passi attraverso un processo interpretativo o generativo può perdere forza epistemica, poiché la connessione con i veri-condizioni non è automaticamente preservata. Quando un LLM “esperto” produce una proposizione e questa attraversa il confine dello strumento, la garanzia si erosiona; ma l’architettura la tratta come se fosse un’osservazione diretta.

Il risultato centrale è il Teorema dell’Autolicenza Inevitabile: sotto assunzioni architetturali standard (strumenti non tipizzati epistemisticamente, output uniformemente trattati come osservazioni), la giustificazione circolare delle decisioni è inevitabile. Non è un problema di qualità del modello, né di calibrazione, né di scaling: esiste a livello di tipo architetturale. Anche un LLM ideale rimane un GENERATOR — produce proposizioni, non osservazioni. Migliorare la qualità generativa è irrilevante se l’insieme delle osservazioni non è cambiato.

Il parallelo con il problema di Gettier è esplicito. Nel caso classico di Gettier (1963), Smith ha una credenza vera e giustificata — “l’uomo che otterrà il lavoro ha dieci monete in tasca” — ma non sa, perché la verità della credenza dipende da fatti (Smith stesso ha dieci monete) sconnessi dalla sua giustificazione (Jones ha dieci monete). Nel lavaggio semantico, la proposizione acquisisce alto status epistemico attraversando un’interfaccia di fiducia, senza che ci sia connessione tra la sua giustificazione (l’output dell’LLM esperto) e ciò che la rende vera (lo stato del mondo). A differenza dei casi gettieriani classici, qui l’effetto non è accidentale: è architetturalmente determinato e sistematicamente riproducibile.

Radici: dall’individualismo metodologico all’epistemologia sociale

Il problema ha radici profonde. La tradizione epistemica occidentale, da Cartesio a Locke, ha trattato la conoscenza come impresa solitaria: “le opinioni degli altri uomini che fluttuano nel mio cervello non costituiscono conoscenza genuina” (Locke 1690). Il motto della Royal Society, Nullius in verba — “non fidarti della parola di nessuno” — incarna questo ideale. Ma la scienza stessa, fin dalla sua istituzionalizzazione, ha sempre funzionato come impresa collettiva: replicabilità, peer review, priorità, divisione del lavoro cognitivo.

La svolta epistemica sociale degli anni ’80-’90 (Fuller 1988; Goldman 1999; Longino 1990; Kitcher 1990; Solomon 2007) ha rovesciato l’individualismo metodologico: non si tratta di aggiungere un fattore sociale a un nucleo individuale, ma di riconoscere che le condizioni di giustificazione sono sociali. La testimonianza è una fonte base di giustificazione (Reid 1764; Coady 1992; Lackey 2008); il disaccordo tra pari rivela limiti della propria posizione (Feldman 2007; Kelly 2010); la struttura delle reti epistemicamente rilevanti determina se una comunità converge sulla verità o su un errore condiviso (Bala & Goyal 1998; Zollman 2007, 2010).

I modelli linguistici attuali ereditano l’individualismo metodologico. Sono addestrati, valutati, deployati come agenti singoli. Benchmark come MMLU, GSM8K, HumanEval misurano accuratezza individuale. Anche quando si usano architetture multi-agente, la diversità è simulata attraverso prompt diversi sullo stesso modello base — omogeneità di pre-addestramento, obiettivi di allineamento, distribuzioni a priori. Come mostrano Jiang, Wynn e collaboratori (2025), l’interazione multi-agente su modelli omogenei amplifica i prior condivisi invece di introdurre varietà genuina, causando collasso della diversità su tre livelli: allineamento al livello del modello, dinamiche gerarchiche al livello cognitivo, topologie di comunicazione dense al livello di sistema.

L’obiezione dell’accuratezza sufficiente

Si può obiettare che per la maggior parte degli usi pratici — riassumere, tradurre, codificare, rispondere a domande factuali — l’accuratezza sia sufficiente. Se un modello dà la risposta corretta al 95% delle query, chi si cura se ne dava anche un’altra valida? La diversità epistemica sarebbe un lusso accademico, irrilevante per l’utente che vuole “la” risposta.

L’obiezione ha forza per usi strumentali stretti. Ma fallisce in tre scenari sempre più centrali. Primo, l’apprendimento: uno studente che chiede “come si dimostra che ci sono infiniti numeri primi” non vuole solo una dimostrazione; beneficia dal vedere la dimostrazione di Euclide, quella di Euler via serie armonica, quella topologica di Furstenberg. La comprensione dipende dal cogliere alternative, contrasti, relazioni tra strategie. Un modello che restituisce sempre la stessa dimostrazione impoverisce l’apprendimento anche se la dimostrazione è corretta.

Secondo, l’indagine aperta: un ricercatore che interroga un modello su “approcci per il problema P vs NP” o “ipotesi sull’origine della vita” ha bisogno di mappare lo spazio delle possibilità, non di ricevere l’opinione canonica. La scienza avanza attraverso la coesistenza di modelli, spiegazioni, metodi multipli (Kellert, Longino, Waters 2006; Feyerabend 1975). La convergenza prematura è un fallimento epistemico, non un successo.

Terzo, la decisione sotto incertezza: quando un sistema AI supporta scelte mediche, legali, politiche, la diversità di scenari, controargomenti, framing alternativi è condizione necessaria per una deliberazione robusta. La letteratura su malignant epistemic herding (Wang et al. 2026) mostra che comunicazione epistemicamente ricca ad alta frequenza paradossalmente degrada la qualità delle credenze collettive guidando convergenza per fusione ripetuta — un fallimento di squadra indistinguibile dalle metriche di coordinazione standard. L’entropia-delta gating proposto dagli stessi autori mitiga il problema trasmettendo solo quando la credenza si sposta significativamente, ma presuppone un’architettura che mantiene credenze distribuite, non un singolo modello che le collassa.

Livello algoritmico e livello istituzionale

La distinzione di Marr tra livello computazionale, algoritmico e implementativo aiuta a inquadrare il problema. Al livello computazionale, la funzione di un sistema di conoscenza è mappare domande a risposte giustificate. Al livello algoritmico, i LLM implementano questa funzione attraverso previsione del token successivo su distribuzioni apprese da corpus massivi. Il collasso epistemico avviene al livello algoritmico: la distribuzione a posteriori concentra massa su modi ad alta probabilità, sopprimendo code che contengono risposte valide ma meno frequenti. Tecniche come temperature sampling, top-k, nucleus sampling modulano questo comportamento ma non lo eliminano; anzi, l’allineamento (RLHF, RLAIF) spinge ulteriormente verso modi “sicuri” e canonici.

Ma c’è un livello ulteriore, che Marr non prevedeva ma che l’epistemologia sociale richiede: il livello istituzionale o sociale. Le norme di Longino — luoghi per la critica, ricezione, standard pubblici, eguaglianza temperata — non sono proprietà di un singolo agente; sono proprietà di un sistema di agenti in interazione. Il teorema di Romanchuk e Bondar mostra che le architetture correnti non implementano questo livello: manca la tipizzazione epistemica degli strumenti, manca la distinzione tra osservazione e generazione, manca qualsiasi meccanismo per cui una “critica” da un agente possa modificare le credenze di un altro in modo tracciabile e reversibile.

Verso un’architettura epistemica sociale

Cosa significherebbe prendere sul serio l’epistemologia sociale nel design dei sistemi AI? Tre direzioni emergono dalla letteratura.

Prima, tipizzazione epistemica degli strumenti. Come propongono Romanchuk e Bondar, distinguere a livello architetturale tra OBSERVATION tools (accesso a dati, sensori, API verificate), COMPUTATION tools (trasformazioni deterministiche di osservazioni esistenti), e GENERATION tools (LLM, modelli generativi). Solo le osservazioni entrano nell’insieme O su cui si costruiscono catene di giustificazione; i risultati di GENERATION tools richiedono garanzie esplicite di preservazione della connessione con i veri-condizioni. Questo esclude il lavaggio semantico per costruzione.

Seconda, asimmetria informativa progettata. InfoDelphi (Zhang et al. 2026) mostra che partizionare l’evidenza in pool pubblico e sottoinsiemi privati disgiunti, dando a ogni agente conoscenza esclusiva che può raggiungere gli altri solo attraverso la deliberazione, riduce la correlazione d’errore inter-agente e migliora le previsioni del 12-18% in Brier score. La diversità di input, non la mera interazione, è l’abilitatore chiave del ragionamento multi-agente efficace. Questo mima i panel di esperti umani efficaci, dove i partecipanti contribuiscono conoscenza complementare invece di leggere gli stessi briefing.

Terza, valutazione della diversità epistemica come metrica standard. Kirsten et al. propongono di trattare la diversità epistemica come dimensione di valutazione a fianco di accuratezza e allineamento. I loro protocolli — accessibile, probing latente, multi-turn, multi-output — offrono un quadro operativo. Estenderli a domini aperti (generazione di ipotesi scientifiche, analisi legale, diagnosi medica differenziale) richiederebbe spazi di risposta validi definiti da esperti di dominio, non solo elenchi di riferimento curati.

C’è un quarto punto, più radicale. Singer e Garzino Demo (2026) argomentano che il futuro dell’IA trasformativa è “fondamentalmente molti, non uno”. Decenni di ricerca in sistemi complessi, filosofia della scienza, comportamento organizzativo mostrano che le scoperte intellettuali profonde provengono da gruppi epistemici diversi che lavorano insieme, non da singoli superintelligenti. Sviluppare team di AI diversi risponde anche alle critiche degli scettici: modelli vincolati dai dati passati, carenti di insight creativo. Ma “diversi” qui non significa prompt diversi sullo stesso modello base; significa architetture diverse, dati di addestramento diversi, obiettivi di allineamento diversi, forse paradigmi diversi (simbolici, connessionisti, neurosimbolici), interagenti attraverso protocolli che preservano l’indipendenza e il disaccordo — le condizioni che Longino chiama “critica trasformativa”.

Bibliografia

1. Kirsten, E., Krämer, N., Zafar, M.B. (2026). On Epistemic Diversity in Large Language Models. arXiv preprint arXiv:2609.04835. doi:10.48550/arXiv.2609.04835
2. Romanchuk, O., Bondar, R. (2026). Semantic Laundering in AI Agent Architectures: Why Tool Boundaries Do Not Confer Epistemic Warrant. arXiv preprint arXiv:2601.08333. doi:10.48550/arXiv.2601.08333
3. Singer, D.J., Garzino Demo, L. (2026). The Future of AI is Many, Not One. arXiv preprint arXiv:2603.29075. doi:10.48550/arXiv.2603.29075
4. Longino, H.E. (1990). Science as Social Knowledge: Values and Objectivity in Scientific Inquiry. Princeton University Press.
5. Longino, H.E. (2002). The Fate of Knowledge. Princeton University Press.
6. Goldman, A.I. (1999). Knowledge in a Social World. Oxford University Press.
7. Kitcher, P. (1990). The Division of Cognitive Labor. Journal of Philosophy, 87(1), 5-22.
8. Gettier, E.L. (1963). Is Justified True Belief Knowledge? Analysis, 23(6), 121-123. doi:10.1093/analys/23.6.121
9. Strevens, M. (2003). The Role of the Priority Rule in Science. Journal of Philosophy, 100(2), 55-79.
10. Zollman, K.J.S. (2007). The Communication Structure of Epistemic Communities. Philosophy of Science, 74(5), 574-587.
11. Solomon, M. (2007). Social Empiricism. MIT Press.
12. Zhang, Y., et al. (2026). Diverse Evidence, Better Forecasts: Multi-Agent Deliberation Under Information Asymmetry. arXiv preprint arXiv:2607.01661.
13. Wang, Y., et al. (2026). The Cost of Consensus: Malignant Epistemic Herding and Adaptive Gating in Distributed Multi-Agent Search. arXiv preprint arXiv:2605.06988.

Note

1. «A system may give a correct answer while still narrowing users’ access to alternative valid answers, explanations, or reasoning routes» — Kirsten, Krämer, Zafar, On Epistemic Diversity in Large Language Models, 2026. Fonte: arXiv:2609.04835v1. Traduzione nostra.
2. «Semantic laundering is an architectural pattern where a weakly warranted proposition, by passing through a trusted interface, is accepted by the system as an observation with high epistemic status without epistemically relevant inference» — Romanchuk, Bondar, Semantic Laundering in AI Agent Architectures, 2026. Fonte: arXiv:2601.08333v1. Traduzione nostra.