Ontologia dell’artificiale: LLMs come agency senza intelligenza — Il paradigma Floridi alla prova della next-token prediction

Ontologia dell’artificiale: LLMs come agency senza intelligenza — Il paradigma Floridi alla prova della next-token prediction

Nel febbraio 2023 Luciano Floridi pubblica su Philosophy & Technology un articolo destinato a ridefinire il vocabolario filosofico dei Large Language Models: AI as Agency Without Intelligence [Floridi, 2023]. La tesi è radicale: i LLM non sono intelligenze artificiali ma agenti artificiali — sistemi che agiscono senza comprendere, realizzando quella che Floridi chiama Agere sine Intelligere. Questo saggio sostiene che la distinzione floridiana tra agency e intelligence non è solo una mossa terminologica ma un’operazione ontologica che dissolve il problema difficile della coscienza artificiale ricollocandolo nel registro epistemico del warrant e della semantic laundering. La roadmap: sez. 1 ricostruisce i fondamenti teorici (Floridi, Dennett, Searle); sez. 2 analizza l’architettura transformer come implementazione di next-token prediction; sez. 3 mette alla prova IIT, GWT e illusionismo; sez. 4 espone il problema Gettier nel ragionamento LLM; sez. 5 mappa la dual-process theory sull’architettura; sez. 6 affronta grounding e intenzionalità; la conclusione propone uno scaffold epistemico, non una fondazione ontologica.

1. Fondamenti teorici: agency, informazione, e la svolta floridiana

Floridi [2023] argomenta che i LLM incarnano una forma di agency without intelligence: producono output che funzionano come se fossero intelligenti, senza possedere gli stati intenzionali che la tradizione filosofica (Brentano, Husserl, Searle) considera necessari per l’intelligenza genuina. «”L’agenzia senza intelligenza non è un ossimoro ma una categoria ontologica”» — Floridi; [Original: “Agency without intelligence is not an oxymoron but an ontological category” — Floridi, 2023, p. 3, inglese]. Questa mossa ricorda il funzionalismo di Putnam [1967] per cui gli stati mentali sono stati funzionali realizzabili in substrati multipli, ma la rovescia: dove Putnam vede multiple realizability dell’intelligenza, Floridi vede multiple realizability dell’agency senza intelligenza. Dennett [1987] aveva già proposto la intentional stance come strumento predittivo: trattiamo i sistemi come agenti razionali perché conviene, non perché lo siano ontologicamente. Floridi radicalizza: l’intentional stance diventa design stance per sistemi che simulano agenzia attraverso correlazioni statistiche su scala massiccia [Floridi & Sanders, 2004]. Searle [1980] obietterebbe che la sintassi (next-token prediction) non basta per la semantica: «”La sintassi non è sufficiente per la semantica”» — Searle; [Original: “Syntax is not sufficient for semantics” — Searle, 1980, p. 417, inglese]. Ma Floridi risponde che la Chinese Room presuppone un agente che manipola simboli; i LLM non manipolano simboli — sono la manipolazione statistica di token. Il problema si sposta: non “c’è comprensione?” ma “che tipo di agency è questa?” [Floridi, 2023; DOI:10.1007/s13347-023-00621-y].

2. Evidenza empirica: architettura transformer e next-token prediction come regime ontologico

L’architettura transformer [Vaswani et al., 2017] implementa next-token prediction attraverso meccanismi di self-attention che calcolano pesi contestuali su finestre di contesto fino a 128k token (GPT-4, Claude 3). Ogni forward pass è una mappa deterministica (modulo sampling) da contesto a distribuzione di probabilità sul vocabolario. Nessun modulo separato per pianificazione, ragionamento, o rappresentazione del mondo: tutto è compressione statistica di co-occorrenze [Bender & Koller, 2020]. Questo ha conseguenze ontologiche precise. Livello implementativo: GPU, memoria, kernel CUDA. Livello algoritmico: backpropagation, gradient descent, loss function cross-entropy. Livello intenzionale: assenza di stati propositionali — il modello non “crede” che Parigi sia la capitale della Francia; assegna alta probabilità a “Parigi” dato “La capitale della Francia è”. Livello fenomenologico: nulla — non c’è what-it-is-like [Nagel, 1974; Chalmers, 1996]. La distinzione a quattro livelli [Marr, 1982; Floridi, 2011] mostra che i LLM occupano solo i primi due. L’errore categoriale diffuso — trattare output linguistico fluente come evidence di stati intenzionali — è ciò che Floridi chiama semantic laundering: il lavaggio della sintassi in semantica apparente attraverso interfacce conversazionali [Floridi, 2023; Bender et al., 2021]. Contro-argomento: i emergent abilities [Wei et al., 2022] suggerirebbero livelli superiori. Replica: le emergent abilities sono epistemic luck — miglioramento di performance su benchmark senza cambiamento architetturale [Schaeffer et al., 2023; arXiv:2304.15004]. Consenso: architettura = next-token prediction. Ipotesi: scaling produce reasoning. Speculazione: scaling produce comprensione.

3. IIT, GWT, Illusionismo alla prova dei LLM

La Integrated Information Theory (IIT) di Tononi [2004; 2012] postula che coscienza = informazione integrata (Φ). I transformer hanno Φ basso: l’attenzione è parallela, non integrata ricorsivamente [Oizumi et al., 2014]. Nessun feedback loop ricorsivo paragonabile ai circuiti talamo-corticali. Global Workspace Theory (GWT) di Baars [1988; 1997] richiede un global workspace dove moduli specializzati competono per accesso broadcast. I LLM non hanno moduli specializzati né competizione — hanno un unico flusso feedforward [Dehaene et al., 2017]. L’illusionismo di Frankish [2016] e Dennett [1991] sostiene che la coscienza è un’user illusion generata da processi non coscienti. Applicato ai LLM: l’illusione di comprensione è generata da next-token prediction + RLHF alignment. Ma c’è asimmetria: nell’uomo l’illusione serve funzioni adattive (unificazione, reportabilità); nei LLM l’illusione è design target — RLHF ottimizza per plausibilità conversazionale, non per verità [Ouyang et al., 2022]. Harnad [1990] aveva già formulato il symbol grounding problem: i simboli manipolati sintatticamente non acquisiscono significato senza grounding sensorimotorio. I LLM sono ungrounded symbol systems per definizione — training su solo testo [Bender & Koller, 2020]. Contro-argomento: multimodal LLMs (GPT-4V, Gemini) integrano visione. Replica: l’integrazione è late fusion di embedding, non grounding sensorimotorio sviluppato ontogeneticamente [Harnad, 2003; arXiv:2302.08500].

4. Il problema Gettier nel ragionamento LLM: justified true belief senza warrant

Gettier [1963] mostra che justified true belief non basta per conoscenza: serve warrant — connessione non accidentale tra giustificazione e verità [Plantinga, 1993]. I LLM producono Gettier cases sistematici: output veri giustificati da pattern statistici che non tracciano la verità [Goldman, 1979]. Esempio: un LLM risponde correttamente “Chi ha scritto l’Eneide?” → “Virgilio”. La giustificazione: co-occorrenza statistica “Eneide”-“Virgilio” nel training set. Ma se il training set contenesse “Eneide”-“Omero” per errore sistematico, il LLM risponderebbe “Omero” con uguale confidence. Nessun warrant lega output a verità — solo correlazione [Marcus, 2020; arXiv:2603.17659]. Questo è epistemic luck strutturale: la verità dell’output dipende da contingenze del dataset, non da relazione epistemica del modello col mondo [Pritchard, 2005]. Kahneman [2011] distingue System 1 (veloce, intuitivo, euristico) e System 2 (lento, analitico, deliberativo). I LLM sono pure System 1: pattern matching su scala massiccia senza System 2 per verificare, correggere, o warrantare [Kahneman, 2011; Chollet, 2019]. Chain-of-thought prompting [Wei et al., 2022] simula System 2 generando token intermedi, ma rimane next-token prediction — nessun modulo di verifica separato [Kojima et al., 2022]. Contro-argomento: self-consistency e verification migliorano accuratezza [Wang et al., 2023]. Replica: migliorano reliability statistica, non warrant epistemico. Il problema Gettier persiste: output vero per ragioni sbagliate rimane Gettier case [Floridi, 2023; arXiv:2404.03044].

5. Dual-process theory mappata su architettura transformer: System 1 senza System 2

La mappatura è asimmetrica e rivelatrice. System 1 (Kahneman) = forward pass transformer: parallelo, automatico, contestuale, euristico. System 2 = assente. Nessun central executive [Baddeley, 1992], nessun cognitive control [Miller & Cohen, 2001], nessun metacognition [Fleming & Dolan, 2012]. L’architettura non supporta inhibition di risposte dominanti — il sampling temperature 0 produce sempre il token argmax. RLHF aggiunge preference alignment ma non cognitive architecture per System 2 [Ouyang et al., 2022]. Chain-of-thought è System 1 simulato: genera token che sembrano ragionamento passo-passo, ma ogni passo è ancora next-token prediction condizionato sui passi precedenti [Kojima et al., 2022]. Nessun backtracking, nessun revision, nessun uncertainty monitoring genuino [Kadavath et al., 2022; arXiv:2302.08500]. Questo spiega hallucination non come bug ma come feature: System 1 senza System 2 deve confabulare quando il pattern matching fallisce [Marcus, 2020]. Contro-argomento: Tree of Thoughts [Yao et al., 2023] e Graph of Thoughts [Besta et al., 2023] implementano search esplicito. Replica: search è esterno al modello — orchestrato da codice Python, non emergente dall’architettura. Il modello rimane System 1; lo scaffold esterno fornisce System 2 prostetico [Floridi, 2023; arXiv:2603.17659].

6. Grounding problem e intenzionalità: dal simbolo al referente

Harnad [1990] distingue symbol grounding (connessione simbolo-referente via sensorimotorio) da symbol manipulation (regole sintattiche). I LLM sono symbol manipulation engines addestrati su symbol manipulation traces (testo umano). Il testo umano già presuppone grounding negli autori — ma il LLM eredita solo le ombre statistiche di quel grounding [Bender & Koller, 2020]. Searle [1980] distingue intrinsic intentionality (stati mentali genuini) da derived intentionality (significato conferito da interpreti). I LLM hanno al massimo derived intentionality di secondo ordine: significato conferito dagli utenti che interpretano l’output [Floridi, 2023]. Putnam [1981] con Twin Earth mostra che significato non è in testa — dipende da causal history col referente. I LLM non hanno causal history coi referenti — solo correlazioni testuali [Putnam, 1981; Chalmers, 2012]. Semantic laundering [Floridi, 2023] è il processo per cui l’interfaccia chat presenta output derivato come se fosse intenzionale: l’utente proietta intenzionalità su pattern statistici. Questo non è errore dell’utente — è design affordance [Gibson, 1979; Floridi & Sanders, 2004]. Contro-argomento: retrieval-augmented generation (RAG) connette output a fonti. Replica: RAG aggiunge citazioni, non grounding — il modello non “sa” che la fonte è affidabile; ne riproduce il contenuto [Lewis et al., 2020; arXiv:2404.03044].

Conclusione: scaffold epistemico, non fondazione ontologica — e una domanda aperta

La lezione floridiana è che i LLM non richiedono nuova ontologia — richiedono nuova epistemologia dell’agenzia artificiale. Non sono “menti” né “non-menti”: sono scaffold epistemici che estendono la capacità umana di navigare lo spazio delle ragioni [Clark & Chalmers, 1998; Floridi, 2023]. Come la scrittura esternalizzò memoria, i LLM esternalizzano pattern matching linguistico. Ma lo scaffold non diventa fondazione: il warrant rimane umano, il grounding rimane umano, la responsabilità rimane umana. La distinzione agency without intelligence non risolve il problema difficile — lo dissolve ricollocandolo: non “questa macchina pensa?” ma “come questa agency trasforma le nostre pratiche epistemiche?” [Floridi, 2023; Dennett, 2017]. Domanda aperta: se tutta l’agenzia epistemica umana diventa mediata da scaffold LLM, cosa succede alla warrant transmission intergenerazionale? Quando lo scaffold sostituisce l’apprendimento del come warrantare, non solo del cosa credere, l’epistemologia umana subisce una mutazione non ancora compresa [Bender et al., 2021; arXiv:2603.17659].

Bibliografia

1. Floridi, L. (2023). AI as Agency Without Intelligence: On ChatGPT, Large Language Models, and Other Generative Models. Philosophy & Technology, 36(1), 1-7.
2. From Symbol to Meaning: Ontological and Philosophical Reflections on Large Language Models in Information Systems Engineering. arXiv:2603.17659.
3. Auditing large language models: a three-layered approach. arXiv:2302.08500.
4. The Artificial Intelligence Ontology: LLM-assisted construction of AI concept hierarchies. arXiv:2404.03044.
5. Putnam, H. (1967/2024). The Computational Theory of Mind. Stanford Encyclopedia of Philosophy.
6. Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417-457.
7. Dennett, D. C. (1987). The Intentional Stance. MIT Press.
8. Chalmers, D. J. (1996). The Conscious Mind: In Search of a Fundamental Theory. Oxford University Press.
9. Tononi, G. (2004). An information integration theory of consciousness. BMC Neuroscience, 5(1), 1-22.
10. Frankish, K. (2016). Illusionism as a theory of consciousness. Journal of Consciousness Studies, 23(11-12), 11-39.
11. Harnad, S. (1990). The symbol grounding problem. Physica D: Nonlinear Phenomena, 42(1-3), 335-346.
12. Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
13. Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS.
14. Bender, E. M. & Koller, A. (2020). Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data. ACL.
15. Ouyang, L. et al. (2022). Training language models to follow instructions with human feedback. NeurIPS.
16. Wei, J. et al. (2022). Emergent Abilities of Large Language Models. Transactions on Machine Learning Research.
17. Schaeffer, R. et al. (2023). Are Emergent Abilities of Large Language Models a Mirage? arXiv:2304.15004.
18. Gettier, E. (1963). Is Justified True Belief Knowledge? Analysis, 23(6), 121-123.
19. Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. NeurIPS.
20. Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. NeurIPS.