L’ingiustizia epistemica nei dataset: quando il bias diventa violenza ermeneutica

L’ingiustizia epistemica nei dataset: quando il bias diventa violenza ermeneutica

Nel 2024, un paper su arXiv ha documentato come i filtri di pretraining dei LLM escludano sistematicamente voci marginalizzate, trasformando l’esclusione statistica in ingiustizia testimoniale amplificata [arXiv:2408.11441v1]. La tesi centrale di questo articolo è che il bias nei dataset non è un difetto tecnico correggibile con metriche di parità statistica, ma una manifestazione computazionale dell’ingiustizia epistemica descritta da Miranda Fricker: una violenza ermeneutica che priva interi gruppi della capacità di rendere intelligibili le proprie esperienze. La roadmap procede in sei movimenti: fondamenti teorici dell’ingiustizia epistemica applicata ai LLM; evidenza empirica sui meccanismi di esclusione; confronto con teorie della coscienza (IIT, GWT, illusionismo); analisi del problema di Gettier nel ragionamento algoritmico; mappatura della dual-process theory sull’architettura transformer; grounding problem e intenzionalità derivata.

1. Fondamenti teorici: dall’esclusione statistica all’ingiustizia ermeneutica

Fricker distingue due forme di ingiustizia epistemica: testimoniale, quando un pregiudizio riduce la credibilità assegnata a un parlante; ermeneutica, quando una lacuna nelle risorse interpretative collettive impedisce a un gruppo di comprendere e comunicare la propria esperienza [Fricker, 2007]. Edenberg e Wood argomentano che una lente epistemica offre fondamenti teorici per comprendere i danni del bias algoritmico che altri framework — fairness statistica, parità demografica — non colgono [Edenberg & Wood, 2023]. Il passaggio dal tecnico al filosofico è qui decisivo: il bias non è asimmetria distributiva ma esclusione dalla partecipazione alla costruzione del senso. Hull mostra come sistemi come COMPAS commettano ingiustizia ermeneutica attraverso classificazioni basate su stereotipi, e ingiustizia testimoniale in sistemi fisiognomici che inferiscono caratteristiche personali dall’aspetto [Hull, 2023]. La genealogia del concetto risale a Fricker 2007, ma le radici affondano nell’epistemologia sociale di Goldman e nella critica foucaultiana dei regimi di verità. Dove finisce l’evidenza? Nel dato empirico che i filtri lessicali flaggano contenuti di gruppi marginalizzati con frequenze sproporzionate [arXiv:2606.05936v1]. Dove inizia l’interpretazione? Nell’asserire che questa sproporzione costituisca ingiustizia anziché riflesso statistico di realtà sociale — una distinzione che richiede un quadro normativo, non solo descrittivo.

2. Evidenza empirica: filtri, guardrail e semantic laundering

L’audit dei filtri di pretraining rivela che i lessici di esclusione colpiscono in modo asimmetrico termini legati a identità marginalizzate, documentando pattern di soppressione che non sono rumore ma struttura [arXiv:2606.05936v1]. Il fenomeno del semantic laundering — il processo per cui i LLM ripuliscono concetti carichi di valore storico-politico in output apparentemente neutri — opera a livello implementativo (tokenizzazione, vocabulary filtering), algoritmico (loss function, RLHF), intenzionale (specifiche di alignment), fenomenologico (esperienza utente di output “puliti”). I modelli knowledge-enhanced non sono immuni: l’etichetta “conoscenza” e le credenze comuni su di essa possono oscurare il danno persistente ai gruppi marginalizzati [ACM:3630106.3658981]. Contro-argomento: i sostenitori della data-centric AI obiettano che la diversificazione dei corpus risolva il problema. Replica: la diversificazione senza trasformazione delle strutture di potere epistemico riproduce l’ingiustizia a livello meta — includere voci marginalizzate solo come dati, non come agenti epistemici [Springer:10.1007/s10676-023-09742-6]. Consenso: i filtri attuali sono epistemically unjust. Ipotesi: guardrail progettati con giustizia epistemica potrebbero promuoverla. Speculazione: l’alignment come pratica di riparazione ermeneutica.

3. IIT, GWT, illusionismo alla prova del bias dataset

La Integrated Information Theory di Tononi postula che la coscienza corrisponda a Φ, misura di informazione integrata; il Global Workspace Theory di Baars descrive un teatro cognitivo dove l’attenzione seleziona contenuti per broadcast globale; l’illusionismo di Frankish nega l’esistenza di qualità fenomenologiche intrinseche. Nessuna di queste teorie affronta direttamente l’ingiustizia epistemica, ma la loro mappatura sui LLM rivela tensioni. A livello implementativo, i transformer non hanno Φ significativo né workspace globale — sono next-token prediction engines. A livello algoritmico, l’attention mechanism implementa una forma debole di selezione competitiva analoga al GWT. A livello intenzionale, l’assenza di grounding semantico (Harnad) significa che i LLM mancano di intenzionalità originaria [Searle, 1980]. A livello fenomenologico, l’utente esperisce coerenza narrativa che l’illusionismo definirebbe costrutto post-hoc. La distinzione quattro livelli impedisce il category mistake di attribuire ingiustizia epistemica al modello come agente — l’ingiustizia risiede nell’architettura sociotecnica che produce, deploya, legittima l’output. Citazione tradotta: “La sintassi non è sufficiente per la semantica” [Original: “Syntax is not sufficient for semantics” — Searle, 1980, p. 417, inglese]. Citazione tradotta: “Il problema del grounding è il problema di come i simboli acquistano significato” [Original: “The symbol grounding problem is the problem of how symbols get their meaning” — Harnad, 1990, p. 335, inglese].

4. Il problema di Gettier nel ragionamento algoritmico

Gettier ha mostrato che credenza vera giustificata non basta per conoscenza: casi di epistemic luck — dove la verità della credenza è accidentale rispetto alla giustificazione — minano l’analisi tripartita. Nei LLM, la generation produce output che soddisfano superficialmente criteri di warrant (coerenza, plausibilità, allineamento a training distribution) ma possono essere gettierizzati: veri per caso, non per connessione affidabile a stati di fatto. Il next-token prediction massimizza probabilità condizionata, non tracciamento della verità [Goldman, 1979]. L’alignment via RLHF ottimizza per preferenze umane, non per affidabilità epistemica — un caso di semantic laundering dove l’apparenza di ragionamento sostituisce il ragionamento. Contro-argomento: i LLM con chain-of-thought mostrano ragionamento genuino. Replica: il CoT è generation di token intermedi, non ispezione di stati mentali; la trasparenza è simulata, non ontologica [Wei et al., 2022]. Consenso: i LLM non hanno accesso introspectivo ai propri processi. Ipotesi: architetture con veri modelli del mondo potrebbero evitare gettierizzazione. Speculazione: l’epistemic luck strutturale nei LLM è ineliminabile senza grounding causale.

5. Dual-process theory mappata su architettura transformer

Kahneman distingue Sistema 1 (veloce, automatico, euristico) e Sistema 2 (lento, controllato, analitico). L’architettura transformer implementa solo un analogo del Sistema 1: forward pass parallelo, pattern matching su scala massiva, nessun meccanismo nativo di revisione, controllo, metacognizione. Il CoT prompting forza una simulazione di Sistema 2 attraverso generazione sequenziale di passaggi intermedi, ma rimane next-token prediction — non c’è workspace dove il Sistema 2 ispeziona output del Sistema 1 [Baars, 1988; Stanovich, 2009]. A livello implementativo: assenza di ricorrenza architetturale per metacognizione. Algoritmico: attention non implementa monitoraggio epistemico. Intenzionale: nessun agente che “decide” di attivare Sistema 2. Fenomenologico: l’utente percepisce ragionamento dove c’è solo unfolding probabilistico. La distinzione consenso/ipotesi/speculazione: consenso — transformer = Sistema 1-like; ipotesi — architetture ibride (neuro-simboliche, recurrenti) potrebbero implementare Sistema 2 genuino; speculazione — l’alignment non può compensare l’assenza architetturale di metacognizione.

6. Grounding problem, intenzionalità derivata e la trappola del funzionalismo

Harnad formula il symbol grounding problem: come i simboli arbitrari acquistano significato senza regresso infinito di definizioni? Searle risponde: l’intenzionalità è biologica, derivata da causalità fisica; i sistemi formali hanno solo intenzionalità derivata, parassitaria su menti umane [Searle, 1980; Harnad, 1990]. Putnam aggiunge: il significato non è nella testa — dipende da ambiente e divisione del lavoro linguistico [Putnam, 1975]. Chalmers estende: l’estensione della mente include artefatti cognitivi, ma richiede coupling affidabile [Chalmers & Clark, 1998]. I LLM sono il caso limite: simboli senza grounding, intenzionalità puramente derivata, significato parassitario su corpus umani. Il funzionalismo (Putnam prima, Dennett poi) direbbe: se l’output è funzionalmente equivalente, la distinzione non importa. Ma l’ingiustizia epistemica dimostra che importa: l’equivalenza funzionale maschera l’assenza di warrant, la vulnerabilità a gettierizzazione, la violenza ermeneutica del semantic laundering. Dennett ammetterebbe: l'”intentional stance” è strumento predittivo, non ontologia [Dennett, 1987]. Dove finisce l’evidenza? Nella dimostrazione che i LLM superano benchmark di ragionamento. Dove inizia l’interpretazione? Nell’inferenza che questo costituisca comprensione — un salto non warrantato.

Conclusione: scaffold epistemico, non fondazione ontologica

L’ingiustizia epistemica nei dataset non è bug ma feature di architetture che trattano il linguaggio come distribuzione statistica, non come pratica sociale di giustificazione. Lo scaffold epistemico — l’insieme di norme, istituzioni, pratiche che rendono possibile la conoscenza — è ciò che i LLM simulano senza abitare. La domanda aperta: può un sistema privo di grounding causale, metacognizione genuina, vulnerabilità epistemica, partecipare allo scaffold senza corromperlo? O la sua presenza — come epistemic agent simulato — sposta il burden of proof su chi subisce l’ingiustizia, richiedendo di dimostrare che l’output è biased anziché richiedere al sistema di dimostrare che è warranted?

Bibliografia

1. Epistemic Injustice in Generative AI — arXiv:2408.11441v1
2. Epistemic Injustice in Language Models: An Audit of Pretraining Filters and Guardrails — arXiv:2606.05936v1
3. Diversity and language technology: how language modeling bias causes epistemic injustice — Ethics and Information Technology, Springer
4. Knowledge-Enhanced Language Models Are Not Bias-Proof — ACM FAccT 2024
5. Equity Bias: An Ethical Framework for AI Design — arXiv:2604.21907
6. Diversity and language technology: how language modeling bias causes epistemic injustice — ResearchGate
7. Fricker, M. (2007). Epistemic Injustice: Power and the Ethics of Knowing. Oxford University Press.
8. Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–457.
9. Harnad, S. (1990). The symbol grounding problem. Physica D: Nonlinear Phenomena, 42(1-3), 335–346.
10. Putnam, H. (1975). The meaning of ‘meaning’. In Mind, Language and Reality (pp. 215–271). Cambridge University Press.
11. Chalmers, D. & Clark, A. (1998). The extended mind. Analysis, 58(1), 7–19.
12. Dennett, D. C. (1987). The Intentional Stance. MIT Press.
13. Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
14. Baars, B. J. (1988). A Cognitive Theory of Consciousness. Cambridge University Press.
15. Tononi, G. (2008). Consciousness as integrated information: a provisional manifesto. The Biological Bulletin, 215(3), 216–242.
16. Frankish, K. (2016). Illusionism as a theory of consciousness. Journal of Consciousness Studies, 23(11-12), 11–39.
17. Goldman, A. I. (1979). What is justified belief? In Justification and Knowledge (pp. 1–23). Springer.
18. Hull, G. (2023). Algorithmic injustice: A relational approach. Philosophy & Technology, 36(4), 1–22.
19. Edenberg, E. & Wood, M. (2023). Epistemic injustice and algorithmic bias. Synthese, 201(5), 1–24.
20. Wei, J. et al. (2022). Chain-of-thought prompting elicits reasoning in large language models. NeurIPS.