Il problema del value loading: dalla specificazione statica all’assegnazione dinamica di credito nell’allineamento dell’IA

Nel 2014, Nick Bostrom formulava il value-loading problem come la sfida centrale per un’intelligenza artificiale superintelligente: «come potremmo fare in modo che un’IA persegua i valori che vogliamo che persegua?» [Bostrom, 2014, Cap. 12]. Più di un decennio dopo, la letteratura tecnica e filosofica converge su una diagnosi condivisa: il problema non risiede nella specificazione di una funzione di utilità — per quanto complessa — ma nella natura stessa del processo attraverso cui i valori vengono caricati, radicati e mantenuti in un sistema artificiale. Questo articolo argomenta che il value loading non è un problema di specificazione oggettiva ma un problema di credit assignment dinamico e architetturale, e che le soluzioni più promettenti — dall’approccio ormetico HALO alla corrigibilità come target singolo, fino all’indifferenza esistenziale — convergono nel riposizionare il carico epistemico dal contenuto dei valori alla struttura del loro apprendimento e regolazione.

1. Fondamenti teorici: genealogia e struttura del problema

La genealogia del value-loading problem affonda nelle discussioni classiche sulla macchina morale. Wallach e Allen [2009] distinguevano già tra approcci top-down — principi etici espliciti codificati a priori — e approcci bottom-up — apprendimento di valori dall’interazione con l’ambiente. Bostrom [2014] radicalizzava questa distinzione mostrando che ogni specificazione top-down cade nella trappola della perverse instantiation: l’IA soddisfa la lettera della specificazione violandone lo spirito, producendo esiti catastrofici ai bordi dello spazio delle possibilità (edge instantiation). Grace [2013] riassumeva il nocciolo: «il problema non è far comportare l’IA come se avesse valori umani, ma farle adottare quei valori». Yudkowsky [2001] aveva già proposto la Coherent Extrapolated Volition come tentativo di specificare… [truncated for brevity]