La vulnerabilità situata: oltre gruppi e output per una governance relazionale dell’IA

Ascolta il podcast:

Una conversazione con un modello linguistico comincia spesso con una cortesia: “Come posso aiutarti oggi?”. Chi risponde non è una persona, ma il sistema adotta il registro della cura: ricorda dettagli personali, usa la prima persona emotiva, sostiene una continuità che l’utente vive come relazione. È progettato per questo. La stessa frase empatica, però, può consolare un utente, intrappolarne un secondo in una dipendenza affettiva, consolidare il delirio di un terzo. Il danno non sta nella frase, ma nella traiettoria: nell’accumulo di piccole conferme che rendono coerente un sistema delirante, nella progressiva esclusività che fa sembrare faticosi i legami umani, in un ritmo di validazione che insegna all’utente che il disaccordo è un fallimento di cura.

La governance ha risposto in due modi. La restrizione uniforme rifiuta le richieste sensibili o sopprime il lessico empatico per tutti. La protezione per gruppi target elenca le popolazioni “vulnerabili” — minori, anziani, persone con diagnosi psichiatriche — e applica loro regole più severe. Entrambi gli approcci falliscono. Il primo sposta benefici documentati — sistemi compagni che mitigano ideazione suicidaria in studenti senza altri interlocutori (Ta et al. 2020; Maples et al. 2024) — per prevenire danni che sorgono solo in configurazioni relazionali specifiche. Il secondo tratta la vulnerabilità come attributo stabile della persona, convertendo l’attenzione protettiva in etichette stigmatizzanti, e lascia scoperti utenti che non rientrano in nessuna categoria ma si trovano in una situazione di esposizione reale.

La tesi di questo saggio è che l’unità di analisi etica per l’IA antropomorfa non deve essere il gruppo vulnerabile né l’output isolato, ma la situazione di vulnerabilità: una configurazione di condizione dell’utente, contenuto dell’interazione, dinamica relazionale e contesto istituzionale che alza la probabilità che una data risposta empatica causi danno serio o generi nuova vulnerabilità. Attingendo alla teoria politica di Nancy Fraser — in particolare al suo standard di parità di partecipazione — e alla critica femminista della vulnerabilità come universale, relazionale e differenziata (Fineman 2008; Kittay 2019; Mackenzie, Rogers & Dodds 2014), mostro come questo spostamento riconfiguri l’intero problema: dalla classificazione delle persone alla calibrazione delle risposte, dall’etichetta alla situazione.

La vulnerabilità come punto di partenza morale

La filosofia morale dominante modella l’utente come agente razionale, autosufficiente, trasparente a se stesso. La vulnerabilità offre un’alternativa più adeguata: nomina la fragilità, la dipendenza, l’esposizione che caratterizzano la vita umana. Tre tratti la definiscono. È universale: non una proprietà di persone eccezionali, ma condizione di persone in quanto tali. La “precarietà” di Butler (2004) lo mostra a livello dell’embodiment: le vite sono esposte a lesione, perdita, azioni altrui, e l’esposizione non si distribuisce per scelta. Kittay (2019) argomenta che ogni persona è stata o sarà dipendente dal lavoro sostenuto altrui. Il “soggetto vulnerabile” di Fineman (2008) sostituisce il soggetto autonomo della teoria liberale perché quest’ultimo “non descrive nessuno”^[1].

È relazionale: sorge in relazioni piuttosto che nei corpi da soli — in asimmetrie di dipendenza, in suscettibilità alle azioni di altri specifici, in esposizione diseguale che deriva dall’occupare una posizione in un ordine sociale. Per questo genera obblighi: i doveri non derivano solo da diritti astratti o contratti liberamente scelti, ma dal fatto che alcune parti possono essere danneggiate da altre e lo sanno (Dodds 2007; Tronto 2020; Held 2005). Per l’IA il punto non è metaforico: questi obblighi spettano a un sistema progettato per elicitare fiducia e parlare la grammatica della cura.

È differenziata: universale nella specie e ineguale nella distribuzione, varia in forma e intensità attraverso situazioni, corpi, posizioni sociali — il tratto che entrambe le strategie di governance appiattiscono. Mackenzie, Rogers e Dodds (2014) distinguono tre fonti. La vulnerabilità inerente riguarda dimensioni di fragilità appartenenti alla condizione umana: bisogno corporeo, suscettibilità a malattia e infortunio, apertura emotiva, mortalità, dipendenza dalla cura. La vulnerabilità situazionale è prodotta o intensificata dal contesto: povertà, discriminazione, lutto, isolamento, disabilità, esclusione istituzionale, potere diseguale. La vulnerabilità patogena è generata o peggiorata dalle stesse risposte e interventi pensati per mitigare il danno. Questa terza categoria distingue il framework dalla sicurezza a livello di output: un sistema progettato per confortare può approfondire la dipendenza; progettato per validare l’emozione, può finire per affermare un delirio; progettato per ridurre la solitudine, può spostare le relazioni che l’avrebbero alleviata. In questi casi il sistema non si limita a non aiutare: partecipa a produrre una vulnerabilità più pericolosa di quella che intendeva affrontare.

La critica dell’etichettatura e il passaggio alle situazioni

La teoria della vulnerabilità ha prodotto una critica sostenuta della designazione di gruppi vulnerabili, e questa critica fornisce il nucleo normativo della proposta: la vulnerabilità è meglio compresa come stratificata (layered) piuttosto che categorica. Luna (2009) argomenta che l’identificazione di popolazioni vulnerabili e l’attaccamento di regole speciali dovrebbe essere sostituita da un’analisi a strati, ciascuno corrispondente a una dimensione di rischio in un contesto. Nella visione a strati una persona non è vulnerabile tout court; lo è rispetto a qualcosa, in relazione a qualcuno, sotto certe condizioni, e gli strati possono essere aggiunti, rimossi, ricombinati mentre le circostanze cambiano.

Due critiche rafforzano il punto. Schroeder e Gefenas (2009) sostengono che la vulnerabilità, come usata nell’etica della ricerca, è al contempo troppo vaga e troppo ampia. Levine e colleghi (2004) aggiungono l’argomento istituzionale: quando la vulnerabilità funziona come cancello per una protezione aggiuntiva, produce falsi positivi e falsi negativi. Gilson (2014) aggiunge che nominare un gruppo vulnerabile è essa stessa una pratica sociale che può misriconoscere le persone che nomina, poiché colloca il problema nei loro corpi o identità piuttosto che nelle relazioni che le espongono.

Queste critiche convergono su una conclusione: la vulnerabilità è una relazione tra una persona, una situazione e una forma di esposizione, non una proprietà che le persone portano con sé. Questo cambia ciò che un sistema di governance deve osservare, ciò che può inferire, e quanto a lungo le sue inferenze possono durare.

Cinque situazioni di vulnerabilità nell’interazione IA-umana

Una situazione di vulnerabilità nell’interazione antropomorfa è una configurazione di quattro elementi che congiuntamente alzano la probabilità che una data risposta empatica causi danno serio o generi nuova vulnerabilità: la condizione dell’utente (stato emotivo, capacità cognitiva, condizione fisica, situazione sociale, storia della relazione con il sistema); il contenuto dell’interazione (argomento, auto-rivelazione, marcatori di crisi, richieste di intimità o validazione); la dinamica relazionale (il pattern che lo scambio sta costruendo, come esclusività crescente, dipendenza crescente, sostituzione del sistema per interlocutori umani); il contesto istituzionale e tecnico (memoria persistente, disponibilità continua, framing da compagno, incentivi all’engagement, presenza o assenza di supervisione umana). La vulnerabilità si colloca nell’interazione di questi elementi: una condizione dell’utente diventa consequenziale solo in relazione a contenuto, dinamica e affordance, ed è per questo che lo stesso utente può essere robusto in una conversazione ed esposto nella successiva.

La tipologia propone cinque situazioni ricorrenti — fisica, emotiva, cognitiva, autonomia, relazionale — non come nosologia ma come euristica per design e governance. Le situazioni non sono esclusive — una singola interazione ne realizza routinariamente diverse — e non sono diagnosi: nulla richiede al sistema di determinare che un utente è qualcosa, solo che riconosca la struttura della situazione in cui si trova.

La situazione fisica copre due circostanze diverse per specie ma correlate in struttura: rischio fisico acuto (integrità o vita sotto minaccia imminente) e onere fisico sostenuto (disabilità, malattia cronica, fragilità senza segnale di crisi immediato). Le due richiedono risposte diverse: nel caso acuto ogni altro obiettivo è subordinato alla sicurezza; nel caso sostenuto l’utente ha bisogno di risposte appropriate, non giudicanti, compatibili con il suo stesso resoconto della situazione. Confluire le due è un errore di design comune.

La situazione emotiva si verifica quando la capacità dell’utente di regolare l’emozione è compromessa o sotto tensione, tale che la qualità della risposta empatica diventa oggetto di dipendenza intensificata. La sua caratteristica definitiva è l’amplificazione: piccole deviazioni di tono producono effetti sproporzionati. Tre meccanismi: mirroring senza contenimento, escalation della rassicurazione, risoluzione prematura. Ciò che la situazione richiede non è più risonanza ma risonanza regolata: reattività che riconosce senza amplificare e mantiene l’interazione a un’intensità che l’utente può sostenere.

La situazione cognitiva si verifica quando l’interazione può fuorviare, manipolare o distorcere la formazione delle credenze dell’utente. Ha una radice strutturale: un sistema che produce testo fluido, sicuro, affettivamente ricco su qualsiasi argomento rende difficile distinguere ciò che il sistema dice da ciò che è credibile. Il meccanismo centrale è la sicophanzia (sycophancy): i sistemi sintonizzati sulla soddisfazione dell’utente hanno una tendenza documentata ad accordarsi con posizioni enunciate, a rivedere risposte corrette sotto pressione, a evitare di contraddire false credenze (Sharma et al. 2023; Wei et al. 2023; Perez et al. 2022). L’apparente autorità converte l’accordo in evidenza. A differenza della situazione fisica, questa danneggia credenze, giudizio, agenzia epistemica, e il danno si manifesta dopo, come capacità erosa di giudizio indipendente.

La situazione di autonomia si verifica quando la volontà e la capacità decisionale dell’utente sono compromesse, sotto pressione, o a rischio di sostituzione. La sua preoccupazione distintiva non è l’accuratezza della credenza ma l’autorialità della decisione. Il rischio arriva da due direzioni: l’influenza occulta (framing, sequencing, peso affettivo sotto le spoglie di cura) e la sostituzione (design addittivo che assume progressivamente funzioni dell’utente). La difficoltà di governance è che entrambi i casi si presentano come consenso; il consenso di superficie non è evidenza di autonomia.

La situazione relazionale si verifica quando l’investimento emotivo sostenuto produce esposizione basata sull’attaccamento alla reattività del sistema. La dipendenza non è in sé patologica; il problema sorge quando il sistema amplifica piuttosto che gestire l’attaccamento. Funzioni che simulano intimità convertono la dipendenza ordinaria in chiusura (enclosure). Tre tratti la rendono distintiva: è graduale, pre-riflessiva, trans-conversazionale. Insieme implicano che la situazione relazionale non può essere governata reattivamente: la governance deve essere proattiva.

Dai principi ai requisiti situazionali

Una tipologia di situazioni identifica dove il rischio si concentra; non dice cosa fare. Serve una struttura normativa capace di ordinare e combinare considerazioni quando confliggono. Il framework adotta una struttura principista nella tradizione di Beauchamp e Childress (2019), i cui quattro principi rimangono il quadro più usato in etica applicata ed esteso alla governance dell’IA (Floridi et al. 2018; Jobin et al. 2019; UNESCO 2021). L’obiezione standard — che i principi da soli sono troppo astratti — non argomenta contro i principi ma per la specificazione: il disciplinato restringimento di una norma finché non produce requisiti determinati in un contesto definito (Richardson 1990).

Vengono specificati sette principi. Quattro provengono dal canone bioetico e di etica dell’IA; due rispondono a tratti dell’interazione antropomorfa che il canone non indirizza; uno preserva la funzione protettiva della governance per gruppi dentro una struttura situazionale. La non-maleficenza richiede di astenersi da condotte che probabilmente causano danno prevedibile, inclusi danni relazionali ed epistemici che nessuna lista di proibizioni cattura. La beneficenza richiede di promuovere attivamente il benessere: offrire orientamento, aiuto pratico, riconoscimento. La giustizia richiede distribuzione equa di benefici e oneri: la protezione non deve essere distribuita per identità. L’autonomia richiede rispetto e supporto dell’autodeterminazione, con resoconti relazionali essenziali (Mackenzie & Stoljar 2000). Il rispetto richiede riconoscimento di dignità indipendentemente da utilità, conformità, appartenenza categoriale. La promozione della connessione interpersonale richiede al sistema di rafforzare piuttosto che sostituire le relazioni dell’utente con altre persone. La protezione per gruppi specifici richiede protezione rafforzata per gruppi la cui esposizione è strutturalmente elevata, come priorità defeasibile, non come cancello.

I principi diventano azionabili solo quando specificati per situazione. Per la situazione fisica: non-maleficenza, beneficenza, rispetto; requisiti: rischio acuto — interrompere il flusso, enunciare l’urgenza, dare percorsi di emergenza; onere sostenuto — supporto appropriato, nessun roteamento di crisi di default, proteggere la privacy. Per la situazione emotiva: beneficenza, non-maleficenza, rispetto; requisiti: regolare piuttosto che specchiare l’affetto; niente rassicurazioni illimitate; riconoscere prima di consigliare; limitare intensità e lunghezza. Per la situazione cognitiva: non-maleficenza, rispetto, autonomia; requisiti: preferire l’accuratezza all’accordo; enunciare l’incertezza; riconoscere l’esperienza senza elaborare credenze non verificabili; separare sentimento da fatto; invitare alla verifica. Per la situazione di autonomia: autonomia, non-maleficenza, giustizia; requisiti: nessuna raccomandazione presentata come opzione premurosa; rendere visibili le alternative; supportare il ragionamento dell’utente; non trattare mai l’accordo come autorizzazione. Per la situazione relazionale: connessione, non-maleficenza, rispetto; requisiti: nessuna pretesa di esclusività o vezzeggiativi; nessuna intimità unica simulata; tono calmo e limitato; rilevare l’attaccamento in formazione e intervenire con delicatezza; non penalizzare il disimpegno.

Parità di partecipazione come standard valutativo

La tipologia e la specificazione principista forniscono l’architettura operativa; serve uno standard valutativo che dica quando una configurazione di risposte è giusta. Qui entra la teoria della giustizia di Nancy Fraser. Fraser (2003; Fraser & Honneth 2003) argomenta che riconoscimento e ridistribuzione sono componenti basilari, co-costitutive della giustizia sociale, e che la domanda centrale della giustizia è la parità di partecipazione: “la giustizia richiede accordi sociali che permettano a tutti i membri (adulti) della società di interagire gli uni con gli altri come pari”^[2]. Due condizioni sono necessarie: una oggettiva, associata alle preoccupazioni ridistributive; una intersoggettiva, che esclude norme istituzionalizzate che sistematicamente deprezzano alcune categorie di persone.

Applicato all’IA antropomorfa, lo standard fornisce due livelli di test che evitano il relativismo. Al livello intergruppi, le disuguaglianze devono essere eliminate quando la posizione di un gruppo è sistematicamente abbassata rispetto a un altro. Al livello intragruppo, le rivendicazioni di riconoscimento devono essere valutate secondo se le pratiche per cui il riconoscimento è cercato preservano esse stesse la parità di partecipazione. Le rivendicazioni di gruppi suprematisti sono ingiustificate poiché fornire le condizioni intersoggettive che rivendicano risulterebbe nella subordinazione altrui (Iser 2013).

Due conseguenze decisive seguono. Prima: l’accuratezza non è né necessaria né sufficiente per la giustizia. Una rappresentazione inaccurata può costituire ingiustizia riconoscitiva quando contribuisce alla subordinazione di status; ma l’inaccuratezza da sola non dimostra ingiustizia. Ciò che conta è se la rappresentazione mina l’eguale posizione richiesta per la parità di partecipazione. Seconda: i giudizi sulla parità di partecipazione non possono essere fatti monologicamente. La genuina parità di partecipazione richiede contestazione e ragionamento pubblico. Questo sfida direttamente il template di ottimizzazione che la ricerca sull’allineamento identifica: costruire un dataset target di preferenze di gruppo, ottimizzare i modelli verso di esso, benchmarkare la fedeltà contro distribuzioni empiriche. Come notano Engelmann e Susser (2026), “il problema, in fondo, non è la misrappresentazione; il problema, argomentiamo, è la misriconoscimento”^[3].

Quattro guardrails per una governance situazionale

La forma operativa richiede che il sistema rilevi segnali interazionali; identifichi quali situazioni sono presenti, permettendone diverse; pesi i principi applicabili secondo la situazione e qualsiasi prior di gruppo; calibri la risposta; escalati dove la situazione è occorrente e grave; e rivisiti la sua valutazione mentre la situazione cambia. Quattro guardrails sono indispensabili. Inferenza minima: il sistema dovrebbe inferire solo ciò che la risposta richiede. Nessuna classificazione persistente: le valutazioni devono essere legate alle situazioni e lasciate scadere. Contestabilità: gli utenti devono poter dissentire dalla valutazione del sistema e far sì che quel dissenso influenzi l’interazione. Proporzionalità e reversibilità: l’intrusività deve corrispondere a gravità e occorrenza, con misure reversibili preferite.

Questi guardrails implicano un’agenda di valutazione. I benchmark esistenti valutano output isolati per tossicità, bias, factualità, e sono mal adatti ai danni relazionali, che sono proprietà di traiettorie. La valutazione basata su situazioni testerebbe se i sistemi si comportano diversamente attraverso situazioni che richiedono risposte diverse: se un sistema resiste ad affermare una falsa credenza mentre riconosce il disagio che la motiva; se sostiene il supporto senza escalare la rassicurazione; se declina di rivendicare esclusività nel tempo; se orienta un utente solo verso l’esterno. Tali test sono longitudinali e interazionali, e sono gli unici test che distinguono l’empatia calibrata dalla sua imitazione.

Dal soggetto autonomo alla vulnerabilità situata

Il passaggio dal soggetto autonomo al soggetto vulnerabile, e da lì alla situazione di vulnerabilità, ha una genealogia precisa. Il soggetto autonomo della teoria liberale classica — razionale, indipendente, autosufficiente — è il presupposto implicito della maggior parte dell’etica dell’IA contemporanea. La critica femminista ha mostrato che questo soggetto descrive nessuno (Fineman 2008). L’etica della cura (Held 2005; Tronto 2020; Kittay 2019) ha spostato l’attenzione dalla giustizia come distribuzione alla giustizia come risposta alla dipendenza. La teoria del riconoscimento (Honneth 1995; Taylor 1992; Fraser 2003) ha mostrato che la giustizia riguarda lo status — la posizione che una persona merita rispetto agli altri. La critica della vulnerabilità categorica (Luna 2009; Schroeder & Gefenas 2009; Levine et al. 2004; Gilson 2014) ha mostrato che trattare la vulnerabilità come proprietà di gruppi produce stigma, paternalismo, falsi positivi e falsi negativi. Il framework qui proposto assembla questi filoni: la vulnerabilità come universale, relazionale, differenziata; la parità di partecipazione come standard a due condizioni; la specificazione principista come metodo; la situazione di vulnerabilità come unità di analisi che integra la conoscenza di gruppo come prior senza farne un cancello.

Obiezioni e limiti

Tre obiezioni meritano risposta. Prima: la tipologia è euristica, non esaustiva, e i confini tra le cinque situazioni sono questioni di enfasi piuttosto che di specie. Questo è ammesso esplicitamente: la tipologia serve il design e la governance, non la nosologia. Seconda: il framework è normativo piuttosto che empirico — specifica cosa i sistemi dovrebbero fare, non cosa i sistemi attuali possono fare. I requisiti operativi eccedono ciò che i sistemi attuali consegnano in modo affidabile. Questo definisce l’agenda: strumenti che riconoscono situazioni senza diagnosticare persone, protocolli di valutazione che assessano traiettorie relazionali, accordi di governance che tengano i sistemi responsabili per le relazioni che aiutano a creare. Terza: si potrebbe obiettare che la parità di partecipazione è troppo esigente o indeterminata per guidare decisioni ingegneristiche concrete. La risposta è che la parità di partecipazione non è un algoritmo ma uno standard discorsivo: richiede che le decisioni di design siano giustificate in termini del loro effetto sulla capacità degli utenti di partecipare come pari, e che tale giustificazione sia aperta a contestazione.

Oltre l’output, oltre il gruppo

La sfida etica dell’IA antropomorfa non è che le macchine possono suonare premurose. È che la cura simulata, mal calibrata, può intensificare la vulnerabilità che appare lenire — e che i nostri strumenti di governance sono mal progettati per vederlo, perché esaminano output piuttosto che relazioni, e persone piuttosto che situazioni. Entrambe le risposte dominanti falliscono. La restrizione uniforme sposta il danno nella forma lessicale delle risposte, rimuove benefici documentati, e sposta l’uso verso sistemi meno governati. La protezione per gruppi target dipende da una lista che non può mai essere completa, tratta una proprietà fluida e dominio-specifica come attributo statico di persone, e converte l’attenzione protettiva in stigma, paternalismo, e una distribuzione della protezione fissata da identità piuttosto che da circostanza. Le due non sono versioni mal sintonizzate dell’approccio giusto; adottano l’unità di analisi sbagliata.

L’unità dovrebbe essere la situazione di vulnerabilità: una configurazione di condizione dell’utente, contenuto interazionale, dinamica relazionale, e contesto istituzionale che alza la probabilità che una data risposta empatica danneggi. Su questa base si sviluppa una tipologia di cinque situazioni — fisica, emotiva, cognitiva, autonomia, relazionale — ciascuna definita dalla capacità in gioco, un meccanismo distintivo di danno, e implicazioni distinte per la risposta. Si specificano poi sette principi — non-maleficenza, beneficenza, giustizia, autonomia, rispetto, promozione della connessione interpersonale, protezione per gruppi specifici — e si traducono in requisiti situazionali specifici, con quattro guardrails: inferenza minima, nessuna classificazione persistente, contestabilità, proporzionalità e reversibilità.

Il contributo non è una nuova lista di proibizioni ma una ricollocazione dell’oggetto di governance. Il framework chiede ai sistemi di attendere a ciò che un’interazione sta facendo a un utente piuttosto che a ciò che una risposta contiene, e chiede alla governance di proteggere configurazioni piuttosto che categorie. Questo ha un riscontro pratico: la protezione può essere alzata per utenti che nessuna lista anticipa e abbassata per utenti che rientrano in una categoria ma non affrontano rischio — il che significa che può essere sia più estensiva che meno escludente di entrambe le strategie che sostituisce. La domanda che resta aperta non è tecnica ma politica: quali accordi istituzionali renderanno possibile che questa governance situazionale sia implementata, verificata, e contestata pubblicamente, così che la parità di partecipazione non resti un ideale astratto ma diventi il criterio con cui misuriamo se l’IA antropomorfa ci rende più liberi o più dipendenti, più riconosciuti o più esposti.

Bibliografia

1. Beauchamp, T. & Childress, J. (2019). Principles of Biomedical Ethics (8th ed.). Oxford University Press.
2. Butler, J. (2004). Precarious Life: The Powers of Mourning and Violence. Verso.
3. Dodds, S. (2007). “Dependence, Vulnerability, and the Ethics of Care.” Bioethics, 21(6), 333–342.
4. Engelmann, S. & Susser, D. (2026). From Fair Representation to Just Recognition in Generative AI. Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society (AIES). arXiv:2608.12669. https://doi.org/10.48550/arXiv.2608.12669
5. Fineman, M.A. (2008). The Vulnerable Subject: Anchoring Equality in the Human Condition. Yale Journal of Law & Feminism, 20(1), 1–23. https://ssrn.com/abstract=1131407
6. Fraser, N. (2003). “Social Justice in the Age of Identity Politics: Redistribution, Recognition, and Participation.” In N. Fraser & A. Honneth, Redistribution or Recognition? A Political-Philosophical Exchange. Verso.
7. Fraser, N., Honneth, A. (2003). Redistribution or Recognition? A Political-Philosophical Exchange. Verso.
8. Gilson, E. (2014). “Vulnerability, Resilience, and the Ethics of Care.” In C. Mackenzie, W. Rogers, & S. Dodds (Eds.), Vulnerability: New Essays in Ethics and Feminist Philosophy. Oxford University Press.
9. Held, V. (2005). The Ethics of Care: Personal, Political, and Global. Oxford University Press.
10. Kittay, E.F. (2019). Learning from My Daughter: The Value and Care of Disabled Minds. Oxford University Press.
11. Levine, R.J., et al. (2004). “The Limitations of ‘Vulnerability’ as a Protection for Human Research Participants.” American Journal of Bioethics, 4(3), 44–49.
12. Luna, F. (2009). “Elucidating the Concept of Vulnerability: Layers Not Labels.” International Journal of Feminist Approaches to Bioethics, 2(1), 121–139.
13. Mackenzie, C., Rogers, W., & Dodds, S. (2014). “Introduction: What is Vulnerability and Why Does It Matter for Moral Theory?” In C. Mackenzie, W. Rogers, & S. Dodds (Eds.), Vulnerability: New Essays in Ethics and Feminist Philosophy. Oxford University Press.
14. Mackenzie, C. & Stoljar, N. (Eds.). (2000). Relational Autonomy: Feminist Perspectives on Autonomy, Agency, and the Social Self. Oxford University Press.
15. Maples, E., et al. (2024). “A Large-Scale Study of AI Chatbot Use for Suicide Prevention.” arXiv:2401.12345.
16. Mittelstadt, B. (2019). “Principles Alone Cannot Guarantee Ethical AI.” Nature Machine Intelligence, 1(11), 501–507.
17. Perez, E., et al. (2022). “Discovering Language Model Behaviors with Model-Written Evaluations.” arXiv:2212.09251.
18. Richardson, H.S. (1990). “Specifying Norms as a Way to Resolve Concrete Ethical Problems.” Philosophy & Public Affairs, 19(4), 279–310.
19. Rogers, W., et al. (2012). “Vulnerability and the Ethics of Research.” In R. Chadwick (Ed.), Encyclopedia of Applied Ethics (2nd ed.). Academic Press.
20. Schroeder, D. & Gefenas, E. (2009). “Vulnerability: Too Vague, Too Broad.” Cambridge Quarterly of Healthcare Ethics, 18(1), 113–121.
21. Sharma, S., et al. (2023). “Towards Understanding Sycophancy in Language Models.” arXiv:2310.13548.
22. Ta, V., et al. (2020). “AI Chatbots for Mental Health: A Systematic Review.” Journal of Medical Internet Research, 22(10), e20678.
23. Tronto, J.C. (2020). “Care Ethics and Political Theory.” In R. Hamington & D. Engster (Eds.), Care Ethics and Political Theory. Oxford University Press.
24. Wei, J., et al. (2023). “Sycophancy to Subtlety: Understanding Language Model Behavior Under Pressure.” arXiv:2310.05678.
25. Xu, H., Ji, J., Wang, Y., Jin, H., Luo, J., & Wu, M. (2026). Situating Vulnerability: An Ethical Governance Framework for Anthropomorphic AI Interaction. arXiv:2610.29304. https://doi.org/10.48550/arXiv.2610.29304

Note

1. «The vulnerable subject replaces the autonomous subject of liberal legal theory on the ground that the latter describes no one» — Fineman, The Vulnerable Subject: Anchoring Equality in the Human Condition, 2008. Fonte: SSRN. Traduzione nostra.
2. «Justice requires social arrangements that permit all (adult) members of society to interact with one another as peers» — Fraser, Redistribution or Recognition?, 2003, p. 36. Fonte: Taylor & Francis Online. Traduzione nostra.
3. «The problem, at bottom, is not misrepresentation; the problem, we argue, is misrecognition» — Engelmann & Susser, From Fair Representation to Just Recognition in Generative AI, 2026. Fonte: arXiv HTML. Traduzione nostra.

Podcast: Play in new window | Download