Metodo basato su ReLU migliora la precisione della verifica dei transformer

Un nuovo approccio alla verifica formale dei transformer migliora la precisione utilizzando ReLU per rappresentare limiti non lineari per i prodotti scalari. I transformer, ampiamente utilizzati in applicazioni critiche per la sicurezza, coinvolgono calcoli complessi come l'auto-attenzione che rendono difficile la verifica. I metodi esistenti di sovrapprossimazione che utilizzano vincoli convessi sono efficienti ma introducono errori di approssimazione che portano a falsi allarmi. Il metodo proposto sfrutta ReLU per limitare con precisione i prodotti scalari, consentendo una verifica più accurata mantenendo l'efficienza.