Secondo i dati del 2025, il 36% delle aziende che utilizzano sistemi di intelligenza artificiale ha registrato impatti negativi diretti causati dal bias algoritmico, con perdite economiche misurabili e danni alla reputazione. Questa cifra non è semplicemente un indicatore statistico: è la prova che l’epoca dell’intelligenza artificiale “senza controllo” sta rapidamente volgendo al termine. Da anni si discute delle potenzialità rivoluzionarie di questa tecnologia, ma nel 2026 il dibattito pubblico sta spostandosi su un piano nuovo e imbarazzante: sappiamo davvero chi decide per noi quando un algoritmo approva un mutuo, seleziona un candidato o valuta una diagnosi medica? E chi — o cosa — ne assume la responsabilità?
La domanda non è retorica. Dietro ogni sistema di intelligenza artificiale si nasconde una catena decisionale complessa, fatta di soggetti umani che progettano, raccolgono dati, addestrano modelli, verificano risultati e li distribuiscono. Eppure, quando qualcosa va storto — quando un algoritmo rifiuta un prestito a un intero gruppo etnico, o quando un sistema di sorveglianza effettua un arresto illegale sulla base di un errore di riconoscimento facciale — la responsabilità si dissolve spesso in un ventaglio di attori tutti, e perciò nessuno, realmente chiamabili a rispondere. È questo il paradosso dell'”accountability diffusa”: più complesso è il sistema, più sfuggente diventa la responsabilità.
La catena invisibile: chi progetta, chi addestra, chi decide
Un sistema di intelligenza artificiale non nasce da sé. È il risultato di una lunga catena di decisioni umane che cominciano molto prima che il primo algoritmo venga scritto. La fase di progettazione implica scelte su quali dati raccogliere, quali caratteristiche considerare rilevanti, quali proporzioni di popolazione rappresentare. Queste decisioni, apparentemente tecniche e neutrali, nascondo spesso valori, pregiudizi e assunti sulla realità sociale che diventano materiali costitutivi del sistema. Se i dati di addestramento riflettono un mondo in cui certi gruppi sono sistematicamente sottorappresentati o stigmatizzati, il modello apprenderà e riprodurrà questi schemi, dando loro l’apparenza di oggettività scientifica.
Il caso del sistema di valutazione dell’esame di maturità inglese nel 2020 è esemplare: un algoritmo sviluppato per stimare i voti degli studenti che non avevano potuto sostenere le prove a causa della pandemia finì per favorire sistematicamente gli studenti delle scuole private a scapito di quelli delle scuole pubbliche. La motivazione tecnica era apparentemente solida — l’algoritmo basava le sue stime sulle prestazioni storiche delle singole scuole — ma il risultato fu un’ingiustizia strutturale che beneficiò i gi già avvantaggiati e penalizzò i più vulnerabili. Come hanno documentato gli esperti dell’OECD, questo caso ha accelerato in tutta Europa le iniziative per la trasparenza algoritmica, culminate nel Regno Unito nello standard ATRS (Algorithmic Transparency Recording Standard), che dal 2025 è diventato obbligatorio per i ministeri governativi.
Ma la problematica non si risolve automaticamente con la trasparenza. Rendere pubblico il funzionamento di un algoritmo è necessario ma non sufficiente se non si affianca a un sistema di responsabilità chiaro. Chi è responsabile quando un sistema di intelligenza artificiale ad alto rischio — come nel caso di una diagnosi medica automatizzata — commette un errore fatale? Il fornitore del software, l’ospedale che lo ha acquistato, il medico che vi si è affidato, oppure il paziente che ha accettato il trattamento? L’Artificial Intelligence Act dell’Unione Europea affronta il tema impostando un sistema di governance basato su catene di conformità, ma non risolve il nodo crux della responsabilità civile, che rimane affidato al diritto nazionale.
Dalla responsabilità individuale all’accountability distribuita
Tradizionalmente, il diritto italiano riconosceva la responsabilità per danno illesivo in capo a soggetti individuabili e determinabili: il medico che sbaglia diagnosi, l’ingegnere che progetta male un ponte, il produttore che commercia un bene difettoso. La responsabilità può essere contrattuale o extracontrattuale, ma in ogni caso ha bisogno di un soggetto definito al quale addossare la colpa. I sistemi di intelligenza artificiale sfidano questo schema perché il danno non è il risultato di una singola decisione umana, ma della combinazione di molteplici decisioni distribuite lungo una catena produttiva complessa che coinvolge sviluppatori, fornitori di dati, operatori di cloud, committenti e utilizzatori finali.
In questo scenario, l’opacità dei modelli di machine learning rappresenta un ostacolo ulteriore. I sistemi di deep learning più sofisticati sono per definizione “scatole nere”: anche i loro stessi creatori spesso non possono spiegare compiutamente come un determinato risultato sia stato ottenuto. Questa caratteristica, combinata con la complessità tecnica che rende i sistemi inaccessibili ai tribunali e agli avvocati, crea un vuolo tra il fatto dannoso e la sua riconduzione a un responsabile. Come hanno lontano gli studiosi, “senza tracciabilità, non c’è responsabilità. È un principio antico del diritto — e vale anche per le macchine che imparano.”
La proposta di direttiva europea sulle responsabilità per l’intelligenza artificiale del 2022, poi abrogata ma i cui principi si sono fatti strada nella legislazione nazionale, intendeva introdurre semplificazioni dell’onere probatorio per chi intentasse azione per danni causati da sistemi di intelligenza artificiale. L’idea era innovativa e audace: invertire l’onere della prova, richiedendo al soggetto danneggiato non di dimostrare il difetto del sistema, ma semplicemente di provare un nesso causale tra il funzionamento del sistema e il danno subito. Spettava poi al soggetto responsabile dimostrare di aver adottato tutte le cautele necessarie. Questo tentativo di “responsabilizzazione presunta” tuttavia non ha superato le resistenze del Consiglio europeo, e oggi l’Unione si limita a predisporre framework supplementari di cooperazione tra normativa prodotto e normativa sui rischi.
Al di là dell’opacità: la richiesta di trasparenza come diritto fondamentale
Se l’accountability è il fine, la trasparenza è il mezzo indispensabile per raggiungerlo. Ma non tutte le forme di trasparenza sono uguali: esistono livelli crescenti di apertura informativa, che vanno dalla semplice dichiarazione dell’uso di un sistema algoritmico alla pubblicazione del codice sorgente, dai metadati decisionali agli audit indipendenti. L’OECD ha proposto un framework di riferimento che distingue tra trasparenza informativa (il cittadino ha diritto di sapere che viene valutato da un algoritmo), trasparenza spiegativa (il cittadino ha diritto a capire il perché di una decisione specifica) e trasparenza strutturale (il cittadino ha accesso agli elementi costitutivi del sistema).
Il Regno Unito ha percorso questa strada con il già citato Algorithmic Transparency Recording Standard, che richiede alle amministrazioni pubbliche non solo di dichiarare l’uso di strumenti algoritmici, ma anche di pubblicare informazioni dettagliate sulle logiche decisionali, sui dati utilizzati e sui meccanismi di sorveglianza umana previsti. Nel 2025 questa standardizzazione è diventata obbligatoria per i ministeri governativi e per i cosiddetti arm’s length bodies, dimostrando che la trasparenza algoritmica può essere strutturata in modo efficace senza per questo compromettere la sicurezza nazionale o i segreti commerciali dei fornitori.
Ma la trasparenza non è solo un obbligo tecnico: è un presupposto per l’esercizio di diritti fondamentali. Come ricorda il Garante per la Privacy con chiarezza non solo formale ma sostanziale, senza accesso alle informazioni su come funziona un sistema algoritmico, il cittadino non può esercitare effettivamente il proprio diritto di contestazione, né può comprendere i motivi di una decisione che ne condiziona la vita economica, sociale o sanitaria. È questo il senso dell’articolo 14 dell’AI Act europeo, che sancisce l’obbligo di sorveglianza umana significativa per tutti i sistemi di intelligenza artificiale ad alto rischio, declinata in tre modalità progressive: human-in-the-loop (l’intervento umano è richiesto nel processo decisionale), human-on-the-loop (monitoraggio umano continuo con facoltà di interruzione) e human-in-command (sovranità decisionale umana sul sistema).
La Legge 132/2025 italiana: il tentativo di un modello ibrido
Nel panorama internazionale, l’Italia si è distinta con l’approvazione della Legge 132 del 2025, che rappresenta il primo tentativo sistematico di recepimento dell’AI Act in un quadro normativo nazionale. La legge introduce un sistema punitivo che integra le sanzioni pecuniarie proprie del Regolamento europeo con nuovi reati penali specifici, tra cui il reato di manipolazione algoritmica e quello di diffusione di deepfake non consensuali. Questa scelta non è neutra: segna una scelta della politica legislativa di riconoscere che alcune condotte tecnologiche non possono essere adeguatamente fronteggiate solo con strumenti civili o amministrativi.
La legge rafforza significativamente il ruolo del Data Protection Officer, che non è più limitato alla mera supervisione della conformità al GDPR ma assume un ruolo di “garante etico” dell’uso dell’intelligenza artificiale all’interno delle organizzazioni. Il DPO deve valutare l’impatto dei sistemi AI sui diritti degli interessati, monitorare la conformità alle disposizioni dell’AI Act e segnalare eventuali violazioni alle autorità competenti. Questa figura diventa un presidio cruciale di accountability interna, anche se la sua effettiva incisività dipenderà dalla capacità delle aziende di garantirle autonomia decisionale e risorse adeguate.
Ma la legge italiana presenta anche limiti significativi. Il regime sanzionatorio, se da un lato offre strumenti deterrenti, dall’altro non affronta adeguatamente il problema centrale: chi deve risarcire il danno quando un sistema di intelligenza artificiale fallisce? La responsabilità del produttore, la responsabilità del committente e la responsabilità dell’operatore sono tutte concepite secondo logiche tradizionali che non sempre si adattano alla complessità dei sistemi autonomi. Come ha osservato la giurisprudenza italiana in materia di responsabilità da prodotto difettoso, il criterio del “difetto esistente al momento della messa in circolazione” può essere applicabile a un software statico, ma incontra difficoltà insormontabili quando applicato a un sistema di machine learning che evolve continuamente attraverso l’interazione con i dati.
Tra sorveglianza umana e automazione totale: un equilibrio da trovare
La sorveglianza umana come requisito legale — e non solo etico — rischia di apparire come un residuo romantico in un mondo che tende all’automazione totale. Eppure, l’articolo 14 dell’AI Act non è un mero richiamo nostalgico: è il riconoscimento che alcune decisioni non dovrebbero mai essere delegate interamente a una macchina. La sorveglianza umana ha senso non quando è un controllo superficiale e burocratico — il classico “click per approvare” che è già routine in molti ospedali per le prescrizioni farmacologiche — ma quando è informata, competente e sostenuta da strumenti che permettano all’operatore umano di comprendere effettivamente cosa sta valutando.
È qui che si manifesta il paradosso più profondo dell’era dell’intelligenza artificiale. Da una parte, i sistemi più avanzati — i modelli di linguaggio di grandi dimensioni, i sistemi multimodali, le reti neurali generative — diventano progressivamente incomprensibili anche per i loro stessi creatori. Dall’altra, la richiesta di accountability democratica e giuridica richiede che questi sistemi siano spiegabili, verificabili e controllabili. Tra queste due tensioni si gioca la partita più importante del prossimo decennio: trovare il modo di mantenere il controllo umano su tecnologie che, per definizione, sfuggono al controllo.
Alcuni settori stanno già sperimentando soluzioni ibride interessanti. Nel campo della diagnostica medica, alcuni sistemi di intelligenza artificiale non sostituiscono il radiologo ma lo supportano, evidenziando le aree dell’immagine che richiedono attenzione e fornendo una misura di confidenza della propria analisi. Questo approccio, definito “intelligenza artificiale aumentativa” o augmented intelligence, preserva la figura del decisore umano pur sfruttando le capacità analitiche della macchina. Il medico rimane responsabile della diagnosi finale, ma con accesso a uno strumento che aumenta la propria capacità di individuare pattern sottili che l’occhio umano potrebbe trascurare.
Verso un nuovo paradigma: la responsabilità come sistema
Il limite attuale della normativa sull’intelligenza artificiale è che ancora ragiona in termini di responsabilità individuale, mentre i sistemi che disciplina sono per definizione collettivi e distribuiti. La via di uscita non sta semplicemente nell’elaborare norme più severe o in sanzioni più elevate, ma nel ripensare il concetto stesso di responsabilità in un contesto dove la decisione è il frutto di un’intelligenza distribuita tra uomo e macchina.
Alcuni studiosi hanno proposto l’introduzione di un “libretto di bordo” digitale obbligatorio per i sistemi di intelligenza artificiale ad alto rischio, in cui venga documentata la catena decisionale completa — dai dati di addestramento alle decisioni di deployment, dalle prestazioni in fase di validazione agli incidenti registrati durante l’uso. Questo “libretto” sarebbe accessibile agli organismi di regolamentazione e, in casi specifici, ai soggetti danneggiati. Non si tratterebbe solo di un adempimento amministrativo, ma di uno strumento di “responsabilità sistemica” che permetta di ricostruire, anche a posteriori, la catena di eventi che ha condotto a un danno.
Altrettanto importante è la questione dell’assicurazione e del fondo di garanzia. Se alcuni settori dell’industria chimica sono obbligati a costituire fondi per i danni ambientali, perché non si dovrebbe fare altrettanto per i sistemi di intelligenza artificiale? Il costo della conformità diventerebbe un incentivo strutturale per la progettazione responsabile: le aziende che investono in sicurezza e trasparenza pagherebbero premi assicurativi più bassi, mentre quelle che sottovalutano i rischi ne sopporterebbero il costo.
In ultima analisi, la sfida non è tecnologica ma culturale: bisogna accettare che l’intelligenza artificiale non sia uno strumento neutro, ma un atto creativo che impegna la responsabilità morale e giuridica di chi la progetta, la distribuisce e la utilizza. La responsabilità per l’intelligenza artificiale non può essere una responsabilità singola, ma nemmeno una responsabilità che, per essere distribuita tra troppi attori, si dissolve in un generico ” sistema”. Il futuro della governance dell’intelligenza artificiale dipenderà dalla nostra capacità di inventare nuove forme di accountability che siano all’altezza della complessità dei sistemi che ci troviamo a disciplinare.
Share this content:
