Nuovo metodo stima i rischi di coda negli output dei modelli linguistici

È stata introdotta una nuova tecnica per valutare la probabilità di output dannosi poco frequenti generati dai modelli linguistici. Dato che questi modelli vengono utilizzati miliardi di volte al giorno, anche i comportamenti negativi più improbabili possono manifestarsi. Le attuali valutazioni di sicurezza si concentrano principalmente sulle distribuzioni degli input, trascurando le caratteristiche probabilistiche dei modelli e i loro comportamenti di output di coda. Il nuovo metodo utilizza il campionamento per importanza, generando versioni non sicure del modello target per stimare efficacemente le probabilità di output dannosi, evitando la necessità di un campionamento esaustivo.