La sicurezza dell'IA richiede la controllabilità come obiettivo di prima classe

Un recente articolo su arXiv sottolinea che garantire la sicurezza dell'IA dovrebbe estendersi oltre il semplice allineamento per dare priorità alla controllabilità. Gli autori descrivono la controllabilità come la capacità di interrompere, sovrascrivere, reindirizzare e limitare costantemente un sistema di IA durante il funzionamento utilizzando segnali di controllo espliciti, mantenendo al contempo la funzionalità standard in assenza di tali segnali. Sostengono che un comportamento allineato non garantisce che un sistema possa essere fermato o sovrascritto in situazioni dinamiche, interattive o che utilizzano strumenti, in particolare quando si affrontano direttive contrastanti, compiti prolungati, input avversari o applicazioni pericolose di strumenti. L'articolo afferma che la controllabilità è essenziale insieme all'allineamento per l'implementazione sicura dei sistemi di IA.