Sintonizzazione di Sicurezza Invariante ai Tratti Stabilizza la Sicurezza dei LLM Attraverso i Tratti del Prompt di Sistema

Un recente preprint su arXiv (2608.11705) presenta la Sintonizzazione di Sicurezza Invariante ai Tratti (TIST), una tecnica progettata per migliorare le prestazioni di sicurezza dei modelli linguistici di grandi dimensioni (LLM) attraverso vari tratti specificati nei prompt di sistema. I ricercatori illustrano che richieste utente identiche possono comportare risposte di sicurezza variabili in base al tratto indicato (come personalità o ruolo), un fenomeno denominato 'variazione di sicurezza indotta dai tratti'. Per misurarlo, introducono due metriche basate sul rifiuto: la Deviazione Indotta dai Tratti, che valuta la divergenza a livello di dataset rispetto a una baseline senza tratti, e il Tasso di Inversione Indotto dai Tratti, che valuta la coerenza delle decisioni di sicurezza attraverso i tratti per la stessa richiesta. La loro analisi rivela che i tratti perturbano le rappresentazioni di sicurezza del modello all'interno di un sottospazio a bassa dimensionalità. TIST mira a garantire un comportamento di sicurezza uniforme, indipendentemente dal tratto assegnato. Questo articolo è stato annunciato come nuova sottomissione su arXiv.