Nel 2002, il film Minority Report di Steven Spielberg immaginava un futuro in cui una squadra di polizia specializzata arrestava le persone per crimini che non avevano ancora commesso, grazie a tre individui dotati di facoltà precognitive. A distanza di oltre due decenni, quella che sembrava pura fantascienza ha trovato una sua concretizzazione inquietante: gli algoritmi di sorveglianza predittiva sono oggi una realtà in decine di città del mondo. La differenza, cruciale, è che invece di chiaroveggenti si affidano a dati, statistiche e pattern comportamentali. E il dibattito etico che ne deriva è più urgente che mai.
Lo scorso aprile, un gruppo di investitori che rappresenta circa 1.150 miliardi di dollari di massa gestita ha inviato una lettera formale ad Alphabet, la holding che controlla Google, chiedendo chiarimenti sui contratti che le tecnologie dell’azienda potrebbero avere con sistemi di sorveglianza predittiva e difesa militare. La richiesta è stata respinta dalla società, ma ha acceso i riflettori su un nodo che nessuna grande azienda tecnologica può più permettersi di ignorare: il carattere inevitabilmente duale dell’intelligenza artificiale, capace di servire tanto la sanità quanto il controllo di massa.
Che cos’è la sorveglianza predittiva
La sorveglianza predittiva è un insieme di tecnologie che utilizzano l’intelligenza artificiale e l’analisi di grandi dataset per anticipare dove e quando potrebbero verificarsi attività criminali, e talvolta chi potrebbe esservi coinvolto. Si distinguono due approcci principali. Il primo, detto place-based, identifica le cosiddette hot spot, zone ad alto rischio dove statisticamente un crimine è più probabile. Il secondo, di tipo person-based, tenta di segnalare individui considerati a elevato rischio di commettere reati o di diventarne vittime.
Negli Stati Uniti, città come Chicago e Los Angeles hanno sperimentato questi sistemi per anni. Chicago ha utilizzato la cosiddetta Strategic Subject List, un algoritmo che analizzava precedenti penali e altri dati per prevedere quali ex criminali fossero più propensi a commettere nuovi reati o a cadere vittime di sparatorie. Il programma è stato smantellato nel 2020 dopo numerose critiche. Los Angeles ha abbandonato l’uso di PredPol, un software progettato per prevedere i picchi di criminalità, dopo che studi indipendenti ne avevano documentato la scarsa accuratezza e la tendenza a rafforzare pregiudizi razziali e socioeconomici.
Il caso più emblematico resta quello della contea di Pasco, in Florida. Qui, sotto un programma denominato intelligence-led policing, lo sceriffo aveva compilato una lista di persone considerate probabili future criminali, soggette a visite periodiche della polizia a domicilio. Tra loro figuravano anche minorenni, segnalati per infrazioni come numeri civici illeggibili o erba alta. Quattro residenti hanno fatto causa e nel 2024 l’ufficio dello sceriffo ha dovuto ammettere la violazione dei diritti costituzionali alla privacy e al trattamento equo. Il programma è stato chiuso.
Gli investitori e il doppio uso delle tecnologie
La questione del dual use, ovvero della possibilità che una stessa tecnologia serva scopi civili e militari, è al centro del confronto tra le big tech e il mondo della finanza. Google, nonostante abbia coltivato a lungo un’immagine pubblica distante dal settore difesa, ha in realtà accumulato una serie di contratti significativi. Tra questi spicca il Project Nimbus, un accordo da circa 1,2 miliardi di dollari con il governo israeliano — condiviso con Amazon — che prevede la fornitura di infrastrutture cloud e strumenti di intelligenza artificiale anche a ministeri e apparati di difesa. A ciò si aggiungono collaborazioni con il Dipartimento della Difesa statunitense, incluso un recente accordo classificato che consente al Pentagono di utilizzare i modelli di IA di Google per funzioni come la pianificazione operativa e il cosiddetto targeting.
Gli azionisti chiedono che la società chiarisca quali protocolli siano in vigore per impedire che la tecnologia diventi strumento di violazione dei diritti umani nelle mani di regimi autoritari. La risposta di Alphabet è stata che le informative già fornite sono sufficienti. La divergenza evidenzia una tensione crescente tra logiche di profitto, responsabilità sociale e diritti civili.
La disputa tra Anthropic — l’azienda che ha creato il modello Claude — e il Dipartimento della Difesa degli Stati Uniti ha reso il tema ancora più visibile. La società di Dario Amodei si è rifiutata di concedere al Pentagono un accesso senza restrizioni ai propri sistemi, mantenendo limiti espliciti contro l’impiego in armi autonome e nella sorveglianza di massa. Il governo ha risposto sospendendo l’uso dei sistemi Anthropic e designando l’azienda come rischio per la catena di approvvigionamento. OpenAI, al contrario, ha scelto una linea più collaborativa, stipulando accordi con il Pentagono ma introducendo clausole che escludono la sorveglianza domestica di massa e il controllo autonomo di armi.
Il problema epistemologico della predizione
Dietro la questione commerciale e politica si cela un problema epistemologico fondamentale. Chi sviluppa sistemi di intelligenza artificiale destinati ad apprendere dall’ambiente deve confrontarsi con un paradosso: tutto ciò che non è esplicitamente proibito diventa un possibile risultato. Come ha osservato la filosofa Mariarosaria Taddeo, docente di Digital Ethics and Defence Technologies all’Oxford Internet Institute, chi progetta questi sistemi avrebbe bisogno di una capacità predittiva quasi divina per anticipare ogni conseguenza non intenzionale.
A ciò si aggiunge una scarsissima robustezza tecnica. Quando l’ambiente operativo si discosta da quello di addestramento, possono emergere risultati inattesi e non voluti. I sistemi di sorveglianza predittiva sono addestrati su dati storici, e i dati storici riflettono decenni di discriminazione sistemica. Un algoritmo che apprende da archivi di arresti e profilazione razziale non fa che riprodurre, e talvolta amplificare, quei medesimi pregiudizi, in un circolo vizioso che si autogiustifica.
Sul piano normativo, esiste oggi una sola regolamentazione organica: quella europea, basata sull’approccio del rischio. Gli altri framework internazionali, ha rilevato Taddeo, sono molto vacui e superficiali, pensati per controllare l’IA solo in fase di progettazione o dopo l’uso, senza prevedere il monitoraggio continuo richiesto da tecnologie dotate di autonomia e capacità di apprendimento.
L’attribuzione della responsabilità morale
Una delle questioni più spinose riguarda la responsabilità. Se un algoritmo segnala un cittadino come potenziale criminale, e questi viene sottoposto a controlli ripetuti, a chi va attribuita la responsabilità di quell’azione? Al poliziotto che esegue? Al funzionario che ha acquistato il software? All’azienda che lo ha sviluppato? All’ente governativo che ha autorizzato il programma?
Taddeo ha sostenuto che la responsabilità legale può essere attribuita — a un generale, a un ministro — ma non coincide necessariamente con quella morale. La responsabilità morale, ha osservato, rimane impossibile da attribuire in maniera giustificata e accettabile quando le macchine eseguono azioni che riguardano la vita di un altro essere umano. Il riferimento ai principi di Norimberga non è retorico: i giudici del processo stabilirono che era necessario accertare la responsabilità individuale, e proprio questa capacità di identificare chi ha compiuto una scelta morale ha rappresentato storicamente uno dei freni che limitano il rischio che la guerra si trasformi in atrocità.
In questa prospettiva, la sorveglianza predittiva non è soltanto una questione di efficacia o di costi, ma solleva un interrogativo antropologico profondo: che cosa significa vivere in una società dove il sospetto precede l’azione, dove la presunzione di innocenza è sostituita da un calcolo probabilistico?
Verso una sorveglianza democratica
Non tutti gli osservatori sono pessimisti. Un’analisi pubblicata su The Conversation ha mostrato come esistano alternative concrete ai programmi di sorveglianza predittiva finiti nel mirino delle critiche. Città come San José, in California, stanno sperimentando modelli in cui l’uso della tecnologia da parte del governo è trattato come una questione di accountability democratica: trasparenza sui dati utilizzati, valutazioni indipendenti di accuratezza e bias, possibilità di ricorso per i cittadini erroneamente segnalati.
Un framework normativo efficace dovrebbe richiedere che la raccolta dati per la sorveglianza predittiva sia trasparente, pubblicamente accessibile e soggetta a supervisione federale. Gli standard tecnici dovrebbero garantire che i modelli siano regolarmente testati per rilevare e correggere i bias, e che il loro impiego sia sempre accompagnato da un controllo umano significativo. Senza questi requisiti, la sorveglianza predittiva rischia di produrre esattamente l’opposto del suo fine dichiarato: invece di ridurre la criminalità, produce ingiustizia; invece di proteggere i diritti, li viola.
Il Papa Leone XIV, nel messaggio per la Giornata Mondiale della Pace 2026, ha messo in guardia dal rischio di una deresponsabilizzazione dei leader politici e militari dovuta alla crescente tendenza a delegare alle macchine decisioni che riguardano la vita e la morte. È un monito che riguarda l’intera società, non soltanto i governi: riguarda le aziende che progettano questi sistemi, gli investitori che li finanziano, e i cittadini che ne subiscono le conseguenze.
La sorveglianza predittiva non è di per sé un male. Può essere uno strumento utile per allocare risorse di sicurezza in modo più razionale, ridurre i tempi di intervento, prevenire reati prima che accadano. Ma la sua implementazione richiede condizioni che oggi raramente si verificano: trasparenza radicale, supervisione indipendente, responsabilità chiaramente assegnata, e soprattutto la consapevolezza che nessun algoritmo, per quanto sofisticato, può sostituire il giudizio umano su questioni che riguardano la libertà e la dignità delle persone.
La domanda che dovremmo porci non è soltanto se la tecnologia possa prevedere il crimine, ma chi decide cosa significa prevedere, su quali basi, e con quali conseguenze per chi non ha mai commesso alcun reato. In gioco non c’è soltanto la sicurezza pubblica, ma la concezione stessa di giustizia in una società democratica.
Share this content:
