Il Framework Safe-SAIL Avanza l'Interpretabilità delle Funzionalità di Sicurezza nei Modelli Linguistici di Grande Scala

Un nuovo framework chiamato Safe-SAIL è stato sviluppato per migliorare l'interpretabilità dei modelli linguistici di grande scala in domini critici per la sicurezza utilizzando autoencoder sparsi. La ricerca affronta due sfide principali: identificare quali SAE sono più efficaci per generare caratteristiche specifiche per la sicurezza e ridurre l'elevato costo della spiegazione dettagliata delle caratteristiche. Safe-SAIL introduce una metrica di valutazione pre-spiegazione che identifica efficientemente gli SAE con forte interpretabilità specifica per il dominio della sicurezza. Attraverso una strategia di simulazione a livello di segmento, il framework riduce i costi di interpretazione del 55%. Il lavoro si basa su queste fondamenta addestrando una suite completa di SAE con caratteristiche leggibili dall'uomo. Questo approccio consente un'analisi più granulare dei concetti di sicurezza, che tipicamente rappresentano domini a bassa frequenza nei modelli linguistici. La ricerca avanza la comprensione meccanicistica di come i modelli linguistici di grande scala gestiscono le considerazioni di sicurezza. Il framework è stato documentato nel preprint arXiv 2509.18127v3.