L'Allineamento della Personalità Latente Migliora la Sicurezza degli LLM Senza Esempi Dannosi

Un recente studio pubblicato su arXiv (2605.08496) presenta l'Allineamento della Personalità Latente (LPA), un meccanismo di difesa per i modelli linguistici di grandi dimensioni che migliora la resilienza concentrandosi su tratti di personalità astratti piuttosto che su azioni dannose specifiche. LPA utilizza meno di 100 dichiarazioni di tratti e impiega un addestramento avversario latente, raggiungendo tassi di successo degli attacchi paragonabili a metodi addestrati su oltre 150.000 esempi, fornendo al contempo una migliore utilità complessiva. In particolare, LPA mostra una migliore generalizzazione a distribuzioni di attacco mai viste prima, riducendo i tassi di classificazione errata di 2,6 volte su sei benchmark di danno, il tutto senza esposizione a esempi dannosi durante l'addestramento. Gli autori suggeriscono che allineare i modelli con tratti di personalità rappresenta una strategia basata su principi per sviluppare difese robuste con dati limitati.