Attribuzione della responsabilità nei sistemi AI multi-stadio

Un nuovo articolo di ricerca su arXiv affronta la sfida di attribuire la responsabilità nei moderni sistemi di intelligenza artificiale, sviluppati attraverso più fasi tra cui pre-addestramento, fine-tuning e allineamento. Gli autori propongono un framework per rispondere a domande controfattuali su come il comportamento del modello differirebbe se gli aggiornamenti di una particolare fase fossero omessi. Introducono stimatori che quantificano gli effetti delle fasi senza riaddestramento, tenendo conto dei dati e delle dinamiche di ottimizzazione. Il lavoro mira a tracciare il comportamento del modello fino a specifiche fasi di sviluppo, sollevando questioni critiche sulla responsabilità per successi o fallimenti.