Le misure dell’equità: quando l’algoritmo decide chi è giusto

Gli studi di intelligenza artificiale stanno rivoluzionando il modo in cui la società percepisce la giustizia e l’equità algoritmica.

Il problema dell’equità nelle definizioni formali

La letteratura scientifica ha identificato almeno quattro definizioni formali di equità, ognuna delle quali cattura un’intuizione diversa su cosa significhi essere giusti. La parity demografica richiede che la proporzione di esiti positivi sia uguale tra i gruppi protetti: se il 70% dei candidati maschi viene selezionato per un colloquio, lo stesso deve capitare per le candidate donne. È intuitiva, ma può ridurre l’accuratezza predittiva quando le caratteristiche sottostanti dei gruppi differiscono significativamente.

L’equalized odds sposta l’attenzione verso gli errori: richiede che i tassi di falsi positivi e falsi negativi siano equilibrati tra i gruppi. In un contesto medico, significa che pazienti di diversi gruppi devono avere la stessa probabilità di ricevere una diagnosi sbagliata. L’equal opportunity ne è una versione più permissiva, che impone solo l’uguaglianza dei tassi di veri positivi: tra chi merita un esito favorevole, la probabilità di ottenerlo deve essere uguale indipendentemente dal gruppo. Infine, la predictive parity richiede che le probabilità stimate siano altrettanto calibrate tra i gruppi: se un modello afferma che due persone hanno entrambe il 70% di probabilità di ripagare un prestito, circa il 70% di ciascun gruppo deve effettivamente farlo.

Il problema centrale, dimostrato formalmente dal celebre risultato di impossibilità, è che se i gruppi hanno tassi base diversi di esiti positivi, queste metriche diventano mutualmente esclusive. Un sistema non può essere altamente accurato e mantenere equalized odds se le caratteristiche sottostanti variano significativamente tra i gruppi. Questa tensione non è accidentale ma strutturale: ogni scelta di metrica implica un giudizio etico implicito su cosa vogliamo proteggere, e ogni protezione comporta un costo altrove.

Dal COMPAS ai sistemi finanziari: conseguenze reali

La controversia più nota è quella dello strumento COMPAS, utilizzato nei tribunali statunitensi per valutare il rischio di recidiva. L’indagine del 2016 di ProPublica rivelò che i difensori afroamericani ricevevano etichette di alto rischio in modo ingiustificato quasi il doppio rispetto ai difensori bianchi. Northpointe, la società che aveva sviluppato l’algoritmo, contrappose la propria metrica: secondo loro il sistema rispettava la predictive parity, ovvero le sue stime di probabilità erano accuratamente calibrate tra i gruppi.

Questo caso non è stato un’eccezione. Nei sistemi di punteggio del credito, dove già il 45% dei finanziatori statunitensi ha integrato l’intelligenza artificiale, uno studio del 2025 ha rivelato che le prenditrici donna si vedono sistematicamente assegnare punteggi più bassi nonostante tassi di default inferiori. Questa distorsione perpetua le disuguaglianze economiche attraverso un circuito vizioso: chi non riesce a ottenere un prestito non può costruire una storia creditizia, riducendo ulteriormente le probabilità future di approvazione.

Ancora più preoccupante è un caso del luglio 2025 sui sistemi di negoziazione salariale, dove modelli di linguaggio come GPT-4o mini, Claude 3.5 Haiku o Llama 3.1 hanno raccomandato differenze salariali di oltre centomila dollari tra candidati con identiche qualifiche, merito delle sole differenze di genere.

La risposta dell’industria è stata frammentata. Anthropic ha portato avanti il concetto della Constitutional AI, dove i modelli apprendono principi guida sin dalla fase di addestramento. Microsoft ha sviluppato Fairlearn, un toolkit open-source che permette di misurare e mitigare le disparità tra sottogruppi. Google ha costruito un team dedicato a Responsible AI, ma ha anche affrontato dubbi legittimi sull’equilibrio tra accuratezza e rappresentatività, specialmente dopo le controversie su Gemini.

Equità e generatività: il nuovo fronte

I sistemi di intelligenza artificiale generativa sollevano interrogativi ancora più radicali rispetto ai sistemi discriminativi tradizionali. Quando un modello di generazione di immagini come DALL-E, quando richiesto di raffigurare un “CEO”, produce il 97% di uomini bianchi, sta semplicemente riflettendo la statistica storica oppure sta cementando una distorsione culturale? La domanda non ha una risposta univoca.

La strategia di Google di forzare la diversità nella rappresentazione ha generato reazioni discordanti. Con Gemini, ha prodotto immagini di papi di diverso schierma nel tentativo di contrastare gli stereotipi, scatenando un dibattito pubblico che ha causato una perdita di 96,9 miliardi di dollari nel valore di mercato di Alphabet. Il punto cruciale non è decidere chi abbia ragione, ma riconoscere che ciascuna posizione corrisponde a diverse intuizioni sul significato di equità, e che queste intuizioni non possono essere tutte soddisfatte contemporaneamente.

Verso standard contestuali

Il futuro dell’equità algoritmica probabilmente non risiede in una definizione universale, ma in un patchwork di standard contestuali. In medicina, dove l’accuratezza diagnostica può salvare vite, si potrebbe privilegiare la predictive parity, accettando che le stime siano calibrate anche se i tassi globali di diagnosi errata variano tra i gruppi. Nella generazione creativa, dove il rischio non è la salute ma la rappresentazione culturale, si potrebbe optare per una parità demografica più aggressiva.

Questo approccio contestuale si scontra però con le pressioni commerciali. I principali attori dell’industria hanno interesse a promuovere soluzioni che appaiano oggettive e universali, perché un patchwork di standard complica la certificazione, la distribuzione e la conformità regolatoria. Inoltre, le normative esistenti come l’AI Act dell’Unione Europea affermano il principio di non discriminazione senza specificare metriche precise, lasciando agli operatori un margine di interpretazione che può ampliare tanto quanto ridurre le disparità.

Conclusione

L’equità nell’intelligenza artificiale non è un problema tecnico con soluzione algoritmica, ma una tensione etica e politica che richiede una deliberazione pubblica informata. Le definizioni formali di fairness sono preziose per la loro precisione, ma proprio questa precisione rivela i loro limiti: non possono essere tutte soddisfatte insieme, e nessuna può sostituire il giudizio umano su cosa sia giusto in un determinato contesto.

Il passaggio decisivo non è scegliere la metrica “giusta”, ma costruire istituzioni capaci di deliberare trasparentemente sui compromessi che ogni scelta comporta. Solo così l’intelligenza artificiale può diventare uno strumento di amplificazione delle capacità umane piuttosto che di cementificazione delle ingiustizie storiche. Il peso di questa scelta ricade sulle nostre comunità, sui nostri legislatori e, infine, su ciascuno di noi.