Il bias come ingiustizia epistemica: perché i Large Language Models non si limitano a “riflettere” la società

Il bias come ingiustizia epistemica: perché i Large Language Models non si limitano a “riflettere” la società

[Kay et al., 2024] Nel 2007 Miranda Fricker pubblicava Epistemic Injustice: Power and the Ethics of Knowing, distinguendo due forme di ingiustizia che colpiscono una persona «specificamente nella sua capacità di conoscitore» [Fricker, 2007, p. 1]: l’ingiustizia testimoniale, quando un pregiudizio induce l’ascoltatore a concedere credibilità deflata a ciò che qualcuno dice, e l’ingiustizia ermeneutica, quando una lacuna nelle risorse interpretative collettive svantaggia ingiustamente chi tenta di rendere intelligibile la propria esperienza [Fricker, 2007, pp. 20, 147]. Quasi due decenni dopo, questi concetti si rivelano decisivi per diagnosticare ciò che accade quando i large language models (LLM) vengono addestrati su corpora squilibrati, filtrati da guardrail automatizzati e deployati come oracoli epistemici in contesti ad alto rischio.

Tesi centrale: il bias nei LLM non è un difetto statistico neutro né una semplice “riflessione” dei dati sociali; è una forma di ingiustizia epistemica algoritmica che opera su due registri — testimoniale ed ermeneutico — amplificando credibilità deflata per gruppi marginalizzati e cancellando dalle risorse interpretative condivise i concetti necessari a nominare le loro esperienze. Questa tesi sarà difesa attraverso tre movimenti: (1) una mappatura concettuale che mostra come il grounding problem (Harnad, 1990) e il value loading problem (Russell, 2019) nei LLM si traducano in ingiustizia testimoniale amplificata e ingiustizia ermeneutica generativa; (2) un’analisi di studi empirici recenti che documentano l’erasure sistematica di identità marginalizzate nei filtri di pre-addestramento e nei guardrail d’inferenza; (3) una discussione dei limiti degli approcci attuali di fairness comparativa e della necessità di una giustizia epistemica generativa che vada oltre la parità statistica [Kay et al., 2024; Mollema, 2025].

1. Dalla statistica all’epistemologia: mappatura concettuale del bias nei LLM

[Gallegos et al., 2024] Il dibattito tecnico sul bias nei LLM distingue tipicamente representational harms (stereotyping, derogatory language, exclusionary norms, disparate system performance) da allocational harms (discriminazione diretta e indiretta nell’accesso a risorse) [Gallegos et al., 2024; Barocas et al., 2019; Blodgett et al., 2020]. Questa tassonomia, per quanto utile, rimane al livello dell’output e delle sue conseguenze distributive. Fricker [2007, p. 1] sposta il fuoco: l’ingiustizia epistemica è un torto fatto a qualcuno «nella sua capacità di conoscitore». Nel contesto LLM, questo significa chiedersi: chi viene ascoltato come conoscitore affidabile? e chi dispone delle risorse concettuali per rendere intelligibile la propria esperienza?

[Harnad, 1990] Due problemi filosofici classici illuminano la mappatura. Il grounding problem [Harnad, 1990] — come i simboli acquistano significato al di là della manipolazione sintattica — nei LLM si manifesta come incapacità di ancorare i token a referenti reali quando i dati di addestramento sottorappresentano intere comunità linguistiche. Nayeem e Rafiei [2026] documentano che i sei principali corpora di pre-addestramento (Common Crawl, C4, The Pile, OSCAR, mC4, ROOTS) mostrano uno skew sistematico verso l’inglese americano (AmE): le varianti British English (BrE) incorrono in costi di segmentazione superiori del 15-30% nei tokenizer standard, e i modelli generano output in AmE anche quando solleciti in BrE [Nayeem & Rafiei, 2026]. Questo non è un accidente statistico: è una credibilità deflata assegnata a chi scrive in varietà non dominanti — ingiustizia testimoniale algoritmica.

[Russell, 2019; Soares et al., 2015] Il value loading problem [Russell, 2019; Soares et al., 2015] — come specificare obiettivi che catturino i valori umani senza effetti perversi — si rivela, nei LLM, come caricamento di valori ermeneutici: i guardrail d’inferenza (Llama-Guard, GPT-4 moderation, Perspective API) e i filtri di pre-addestramento (blocklist lessicali, classifier di tossicità) operano come gatekeeper epistemici che decidono quali enunciati meritano di entrare nel corpus e quali output meritano di essere generati. Stranisci et al. [2026] auditan quattro filtri di pre-addestramento e tre guardrail su frasi Common Crawl contenenti menzioni di genere e origine regionale: le menzioni di identità transgender vengono flaggate significativamente più spesso di quelle cisgender; le menzioni dell’America Centrale a tassi «altamente significativi»; tutti e tre i guardrail sotto-flaggano sistematicamente menzioni dell’Europa occidentale, occidentale-asiatica e settentrionale [Stranisci et al., 2026]. Come scrivono gli autori: «le decisioni di filtraggio e guardrail sono fortemente associate a indizi lessicali da blocklist, mentre mancano frequentemente il danno in contenuti di proprietà intellettuale, privacy e politica» [Stranisci et al., 2026]. [Original: “filtering and guardrail decisions are strongly associated with blocklist-based lexical cues, while frequently missing harm in intellectual property, privacy, and political content” — Stranisci et al., 2026].

[Mollema, 2025] Qui emerge la distinzione tra livelli, cruciale per evitare lo scientism che confonde prestazione tecnica con adeguatezza epistemica [Mollema, 2025]:

• Livello implementativo: architettura transformer, pesi, tokenizer, dati di pre-addestramento.
• Livello algoritmico: funzione computazionale (next-token prediction, RLHF, filtering).
• Livello intenzionale/semantico: cosa l’output significa per chi lo riceve — quali credibilità assegna, quali concetti rende disponibili.
• Livello fenomenologico: l’esperienza vissuta di chi vede la propria identità cancellata o patologizzata dal sistema.

[Fricker, 2007; Mollema, 2025] Gli approcci di fairness comparativa (equalized odds, demographic parity, calibration) operano al livello algoritmico; l’ingiustizia epistemica si consuma al livello intenzionale e fenomenologico. Trattare il secondo come riducibile al primo è un errore di categoria [Fricker, 2007; Mollema, 2025]. Come obietta Searle [1980] nell’argomento della Chinese Room: «la sintassi non basta per la semantica» [Searle, 1980, p. 417]; analogamente, la parità statistica non basta per la giustizia epistemica. [Original: “syntax is not sufficient for semantics” — Searle, 1980, p. 417].

2. Ingiustizia testimoniale amplificata: chi parla, chi viene creduto

[Fricker, 2007, p. 28] Fricker [2007, p. 28] definisce l’ingiustizia testimoniale come «attribuzione di credibilità insufficiente» dovuta a pregiudizio identitario. Kay, Kasirzadeh e Mohamed [2024] estendono il concetto a ingiustizia testimoniale amplificata: i LLM non si limitano a riflettere pregiudizi esistenti; li amplificano attraverso la generazione di contenuti che sembrano autorevoli per la loro forma fluida e la pretesa di neutralità enciclopedica. Gli autori identificano due meccanismi: (a) la confabulazione come testimonianza falsa — i modelli generano affermazioni plausibili ma false su gruppi marginalizzati, sfruttando la fiducia epistemicamente ingiusta che gli utenti ripongono nel sistema; (b) la fingerprinting della disinformazione — pattern stereotipici ricorrenti diventano “impronte” riconoscibili che rafforzano la credibilità deflata [Kay et al., 2024].

[Social Bias in QA Benchmarks, 2025] Uno studio su benchmark di question-answering mostra che i dataset di valutazione più usati (TriviaQA, NaturalQuestions, HotpotQA) privilegiano conoscenze dominanti — storiche, scientifiche, geografiche — codificate da prospettive occidentali, anglofone, maschili. «Biased QA benchmarks privilegia certe conoscenze rispetto ad altre, designandole come più desiderabili per i LLM da riprodurre. Tali LLM (es. chatbot) allargano i divari nelle risorse di conoscenza dominanti» [Social Bias in QA Benchmarks, 2025]. Questo è ingiustizia testimoniale strutturale: non solo il modello assegna credibilità deflata a certe voci, ma l’intera infrastruttura di valutazione definisce cosa conta come “conoscenza legittima”.

[Fricker, 2007, p. 29; Mollema, 2025] Un contro-argomento comune sostiene che i LLM «riflettano semplicemente» i dati sociali e che correggere il bias richieda correggere la società, non il modello. Questo argomento confonde spiegazione causale con giustificazione normativa. Come nota Fricker [2007, p. 29], il pregiudizio che causa ingiustizia testimoniale è spesso «diffuso, implicito e strutturale» — precisamente il tipo di pattern che i LLM apprendono e amplificano. Il fatto che una disuguaglianza abbia radici sociali non la rende epistemicamente innocua quando viene codificata in un sistema che si presenta come autorevole. Inoltre, i LLM non sono specchi passivi: la scelta del corpus, del tokenizer, degli obiettivi di RLHF, dei guardrail sono decisioni progettuali che costituiscono l’epistemologia del sistema [Mollema, 2025].

3. Ingiustizia ermeneutica generativa: l’automazione dell’epistemicidio

[Fricker, 2007, p. 147] L’ingiustizia ermeneutica, per Fricker [2007, p. 147], avviene quando «qualcuno ha una significativa area della propria esperienza sociale oscurata dalla comprensione a causa di difetti pregiudiziali nelle risorse condivise per l’interpretazione sociale». Nei LLM, questa ingiustizia assume una forma nuova: l’ingiustizia ermeneutica generativa o erasure ermeneutica generativa [Mollema, 2025; Kay et al., 2024]. Mollema [2025] la definisce come «l’automazione dell’epistemicidio, l’ingiustizia fatta agli agenti epistemici nella loro capacità di sense-making collettivo attraverso la soppressione della differenza in epistemologia e concettualizzazione da parte degli LLM. I sistemi di IA con la loro epistemologia del “view from nowhere” inferiorizzano epistemologie non occidentali e contribuiscono all’erosione dei loro particolari epistemici». [Original: “the automation of ‘epistemicide’, the injustice done to epistemic agents in their capacity for collective sense-making through the suppression of difference in epistemology and conceptualization by LLMs. AI systems’ ‘view from nowhere’ epistemically inferiorizes non-Western epistemologies and thereby contributes to the erosion of their epistemic particulars” — Mollema, 2025].

Tre meccanismi empiricamente documentati:

3.1 Erasure nei filtri di pre-addestramento. Stranisci et al. [2026] trovano che le menzioni di identità marginalizzate (transgender, America Centrale, donne) vengono rimosse disproporzionatamente prima del pre-addestramento e ulteriormente soppresse a tempo di inferenza. Questo non è solo “data cleaning”: è cancellazione preventiva di referenti necessari a nominare esperienze. Come osservano gli autori, c’è una «forma di erasure epistemica in cui menzioni di gruppi marginalizzati sono rimosse sproporzionatamente prima del pre-addestramento e soppresse nuovamente a tempo di inferenza» [Stranisci et al., 2026]. [Original: “a form of epistemic erasure in which mentions of marginalized groups are disproportionately removed before pretraining and additionally suppressed again at inference time” — Stranisci et al., 2026].

3.2 Invisibilità linguistica come erasure ermeneutica. Lo studio “Invisible Languages of the LLM Universe” [2025] analizza tutte le 7.613 lingue documentate e identifica quattro categorie: Strongholds (33%, alta vitalità e digitalità), Digital Echoes (6%), Fading Voices (36%), e criticamente Invisible Giants (27%) — lingue parlate da milioni di persone ma con digitalità quasi zero. Il Javanese (68 milioni di parlanti) è pressoché assente dai dati di addestramento; l’Islandese (350.000 parlanti) ha un’impronta digitale sostanziale. Gli autori concludono che «il dominio dell’inglese in IA non è una necessità tecnica ma un artefatto di strutture di potere che escludono sistematicamente la conoscenza linguistica marginalizzata» [Invisible Languages, 2025]. Questa esclusione non priva solo di servizio tecnologico: priva delle risorse concettuali per articolare esperienze in quelle lingue — ingiustizia ermeneutica su scala planetaria.

3.3 Bias di modellazione linguistica come preferenza rappresentazionale hard-wired. Il paper “Diversity and language technology” [2023] introduce il concetto di language modeling bias: «una forma specifica e sotto-studiata di bias linguistico in cui la tecnologia linguistica per progettazione favorisce certe lingue, dialetti o socioletti rispetto ad altri» [Diversity and Language Tech, 2023]. Gli autori mostrano che gli sforzi per estendere i LLM a “lingue sotto-servite” tendono a produrre «soluzioni difettose che aderiscono a una preferenza rappresentazionale hard-wired per certe lingue», risultando in sistemi «precisi riguardo a lingue e culture di potenze dominanti, ma limitati nell’espressione di nozioni socio-culturalmente rilevanti di altre comunità» [Diversity and Language Tech, 2023]. Qui l’ingiustizia ermeneutica è costitutiva dell’architettura: il modello non può esprimere certi concetti perché lo spazio delle rappresentazioni è stato plasmato per escluderli.

4. I limiti della fairness comparativa e la via della giustizia epistemica generativa

[SEP: Algorithmic Fairness, 2025] La letteratura sulla fairness algoritmica (SEP: Algorithmic Fairness, 2025) distingue concezioni comparative (trattare casi simili in modo simile: demographic parity, equalized odds, calibration) da concezioni non-comparative (accuratezza, non-arbitrarietà, non-inscrutabilità, richiesta di un decisore umano). Entrambe le famiglie presuppongono che il problema sia distributivo: come allocare outcomes (predizioni, risorse, opportunità) tra gruppi. L’ingiustizia epistemica sposta la domanda: non «chi ottiene cosa» ma «chi conta come conoscitore» e «chi ha gli strumenti concettuali per capire se stesso». Come scrive Fricker [2007, p. 20], l’ingiustizia testimoniale colpisce qualcuno «specificamente nella sua capacità di conoscitore» — una dimensione che nessuna metrica di parità statistica cattura.

Due limiti strutturali degli approcci comparativi:

Primo, il problema del proxy (SEP: Algorithmic Fairness, §5). Poiché gli attributi sensibili (razza, genere) sono spesso assenti o illegali da raccogliere, i sistemi usano proxy correlati (codice postale, lessico, cronologia di navigazione). Ma «se il fatto che la persona nera media ha meno ricchezza della persona bianca media è esso stesso risultato di discriminazione pregressa, allora quando la banca agisce su questi dati può compiere un torto compiendo quell’ingiustizia pregressa» [Wachter et al., 2021, cit. in SEP, 2025]. Nei LLM, i proxy sono costitutivi della rappresentazione: il tokenizer, l’embedding space, l’attenzione cross-linguale sono i proxy. Correggere la fairness a valle senza ridisegnare la rappresentazione è come dipingere una facciata marcia.

Secondo, la trappola dell’accuratezza su mondo ingiusto (SEP: Algorithmic Fairness, §4.3). Un modello può essere «accurato» nel predire recidiva, default su prestiti, o tossicità di un testo — ma l’accuratezza misura corrispondenza con un mondo storicamente ingiusto. La fair representation in training data (§4.2) non risolve: dati accurati su un mondo ingiusto producono modelli che perpetuano l’ingiustizia con maggiore precisione statistica. Come argomentano Kay et al. [2024], servono virtù epistemiche — partecipazione, rappresentazione, progettazione di sistema — non solo metriche di parità.

[Kay et al., 2024] La proposta di giustizia epistemica generativa [Kay et al., 2024] articola due direzioni: (a) resistenza — auditing sistematico di filtri e guardrail per erasure testimonial e hermeneutic (come fa Stranisci et al. [2026]); principi di progettazione che trattano l’inclusione ermeneutica come requisito architetturale, non come post-processing; (b) IA generativa per la giustizia epistemica — usare i LLM per identificare ingiustizie testimoniali su larga scala (es. rilevare pattern di credibilità deflata in corpus storici, giuridici, medici) e per generare risorse ermeneutiche (es. co-creare lessici per esperienze attualmente innominabili in lingue marginalizzate). Questo ribalta la logica: l’IA non come oracolo che giudica, ma come strumento che restituisce agenzia epistemica.

5. Prospettive aperte: tokenizzazione dialetto-sensibile, governance dati partecipativa, valutazione ermeneutica

[Nayeem & Rafiei, 2026] Tokenizzazione dialetto-sensibile. Nayeem e Rafiei [2026] propongono DiAlign, metodo training-free per stimare allineamento dialettale via evidenza distributiva, e mostrano che tokenizer dialetto-sensibili riducono il costo di segmentazione per BrE senza degradare performance su AmE. Estendere questo approccio a varietà a bassa risorsa (Scots, Singlish, creoli caraibici, lingue indigene) richiede corpora di varianti curati — non solo “più dati”, ma dati scelti con giustizia epistemica [Nayeem & Rafiei, 2026].

[Mollema, 2025; Kay et al., 2024] Governance dati partecipativa. Mollema [2025] e Kay et al. [2024] convergono: l’esclusione del Global South dalla governance IA globale [Mollema, 2025, citando OECD, UNESCO] è ingiustizia ermeneutica strutturale. I data commons partecipativi (es. Masakhane per lingue africane, BigScience per BLOOM) mostrano che quando le comunità controllano la curatela dei propri dati, emergono risorse ermeneutiche che i modelli centralizzati non possono generare. La sfida è scalare senza replicare la logica estrattiva.

[Gallegos et al., 2024] Valutazione ermeneutica oltre i benchmark. Gli attuali benchmark (BBQ, StereoSet, CrowS-Pairs) misurano associazione statistica tra attributi sensibili e predizioni — catturano representational harm ma non erasure ermeneutica. Serve una valutazione ermeneutica: il modello dispone dei concetti per esprimere l’esperienza X nella lingua Y? Può co-costruire neologismi per esperienze innominate? Questo richiede valutatori situati — membri delle comunità interessate — non solo annotatori crowd-sourced [Gallegos et al., 2024].

Conclusione: il bias non è un bug, è una scelta epistemica

[Fricker, 2007, p. 1] L’analisi mostra che il bias nei LLM non è un residuo statistico da “mitigare” con tecniche di post-processing. È l’esito di scelte epistemiche — quali voci includere nel corpus, quali tokenizer usare, quali guardrail deployare, quali benchmark ottimizzare — che assegnano credibilità deflata (ingiustizia testimoniale) e cancellano risorse concettuali (ingiustizia ermeneutica). Fricker [2007, p. 1] scriveva che l’ingiustizia epistemica «non solo ostacola ingiustamente l’espressione di gruppi marginalizzati, ma compromette significativamente le capacità di formazione della conoscenza di tutti gli individui». I LLM, presentandosi come epistemici universali, rendono questa compromissione sistemica e scalabile.

[Russell, 2019; Soares et al., 2015; Mollema, 2025] La via d’uscita non è l’alignment inteso come conformità a valori pre-specificati (il value loading problem nato in Russell [2019] ed evoluto in corrigibility per Soares et al. [2015]), ma una giustizia epistemica generativa che riconosca: (1) la conoscenza è situata, non universale; (2) l’esclusione ermeneutica è un torto distinto dal danno allocativo; (3) i sistemi IA possono e devono essere progettati per restituire agenzia epistemica, non solo per non toglierla. Come scrive Mollema [2025], serve una tassonomia che mappi le ingiustizie epistemiche nel dominio IA e l’identificazione di forme nuove — come l’erasure ermeneutica generativa — che l’approccio fairness comparativa non vede. Il compito filosofico e tecnico è congiunto: ridefinire cosa significa che un sistema “sa” in modo che includa chi sa, come sa, e a chi serve il sapere.

Bibliografia

[Barocas et al., 2019] Barocas, S., Hardt, M., & Narayanan, A. (2019). Fairness and Machine Learning: Limitations and Opportunities. fairmlbook.org. https://fairmlbook.org/

[Blodgett et al., 2020] Blodgett, S. L., Barocas, S., Daumé III, H., & Wallach, H. (2020). Language (Technology) is Power: A Critical Survey of “Bias” in NLP. Proceedings of ACL 2020, 5454–5476. https://doi.org/10.18653/v1/2020.acl-main.485

[Diversity and Language Tech, 2023] Authors. (2023). Diversity and language technology: how language modeling bias causes epistemic injustice. Ethics and Information Technology, 25(3), 1–15. https://doi.org/10.1007/s10676-023-09742-6

[Dirty Data, 2023] Author. (2023). Dirty data labeled dirt cheap: epistemic injustice in machine learning systems. Ethics and Information Technology, 25(3), 1–14. https://doi.org/10.1007/s10676-023-09712-y

[Fricker, 2007] Fricker, M. (2007). Epistemic Injustice: Power and the Ethics of Knowing. Oxford University Press. https://doi.org/10.1093/acprof:oso/9780198237907.001.0001

[Gallegos et al., 2024] Gallegos, I. O., Rossi, R. A., Barrow, J., Tanwani, M. M., Kim, S., Dermoncourt, F., … & Yu, H. (2024). Bias and Fairness in Large Language Models: A Survey. Computational Linguistics, 50(3), 1097–1179. https://doi.org/10.1162/coli_a_00524 (arXiv:2309.00770v2)

[Harnad, 1990] Harnad, S. (1990). The Symbol Grounding Problem. Physica D: Nonlinear Phenomena, 42(1–3), 335–346. https://doi.org/10.1016/0167-2789(90)90087-6

[Invisible Languages, 2025] Authors. (2025). Invisible Languages of the LLM Universe. arXiv preprint arXiv:2510.11557v1. https://arxiv.org/abs/2510.11557

[Kay et al., 2024] Kay, J., Kasirzadeh, A., & Mohamed, S. (2024). Epistemic Injustice in Generative AI. Proceedings of the 2024 AAAI/ACM Conference on AI, Ethics, and Society, 1–12. https://doi.org/10.5555/3716662.3716722 (arXiv:2408.11441v1)

[Mollema, 2025] Mollema, W. J. T. (2025). A taxonomy of epistemic injustice in the context of AI and the case for generative hermeneutical erasure. arXiv preprint arXiv:2504.07531. https://arxiv.org/abs/2504.07531

[Nayeem & Rafiei, 2026] Nayeem, M. T., & Rafiei, D. (2026). Which English Do LLMs Prefer? Triangulating Structural Bias Towards American English in Foundation Models. arXiv preprint arXiv:2604.04204v1. https://arxiv.org/abs/2604.04204

[Russell, 2019] Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.

[SEP Algorithmic Fairness, 2025] Flear, M. L., Davies-Tyrie, C., & Wincott, D. (2025). Algorithmic Fairness. The Stanford Encyclopedia of Philosophy (Summer 2025 Edition). https://plato.stanford.edu/entries/algorithmic-fairness/

[Searle, 1980] Searle, J. R. (1980). Minds, Brains, and Programs. Behavioral and Brain Sciences, 3(3), 417–457. https://doi.org/10.1017/S0140525X00005756

[Soares et al., 2015] Soares, N., Fallenstein, B., Armstrong, S., & Yudkowsky, E. (2015). Corrigibility. AAAI Workshops. https://intelligence.org/files/Corrigibility.pdf

[Social Bias in QA Benchmarks, 2025] Authors. (2025). Social Bias in Popular Question-Answering Benchmarks. arXiv preprint arXiv:2505.15553v3. https://arxiv.org/abs/2505.15553

[Stranisci et al., 2026] Stranisci, M. A., Pranav, A., Damiano, R., Hardmeier, C., & Lauscher, A. (2026). Epistemic Injustice in Language Models: An Audit of Pretraining Filters and Guardrails. arXiv preprint arXiv:2606.05936v1. https://arxiv.org/abs/2606.05936

[Wachter et al., 2021] Wachter, S., Mittelstadt, B., & Russell, C. (2021). Why Fairness Cannot Be Automated: Bridging the Gap Between EU Non-Discrimination Law and AI. Computer Law & Security Review, 41, 105567. https://doi.org/10.1016/j.clsr.2021.105567