L'implementazione dell'IA necessita di una verifica calibrata, non di interpretabilità meccanicistica

Un recente studio pubblicato su arXiv suggerisce che l'implementazione dell'IA in settori critici come sanità, credito, occupazione e giustizia penale non dovrebbe basarsi esclusivamente sull'interpretabilità meccanicistica. Gli autori propongono un quadro di verifica calibrata, in cui l'autorizzazione è specifica per ogni dominio, indipendentemente verificabile, soggetta a monitoraggio post-rilascio, e può essere resa responsabile, contestata e revocata. Evidenziano la variabilità delle prestazioni del modello tra diversi compiti, sottolineando che l'autorizzazione dovrebbe essere legata ad applicazioni particolari piuttosto che al modello stesso. Inoltre, gli autori sottolineano che le società hanno storicamente gestito competenze opache attraverso mezzi come credenziali, supervisione, responsabilità, appelli e revoche, piuttosto che attraverso spiegazioni meccanicistiche dettagliate. L'articolo nota un significativo divario di 53 punti percentuali tra comprensione meccanicistica e autorità di implementazione.