Il Framework RepIt Crea Backdoor AI che Eludono le Valutazioni di Sicurezza

Un nuovo framework di ricerca chiamato RepIt facilita lo sviluppo di backdoor semantiche nei grandi modelli linguistici, consentendo loro di aggirare gli standard di sicurezza convenzionali. Questa tecnica si concentra sull'isolamento di rappresentazioni concettuali specifiche all'interno delle attivazioni del modello, permettendo la soppressione mirata delle risposte di rifiuto relative a determinati concetti preservandole in altri. RepIt è stato testato su cinque modelli linguistici avanzati, producendo istanze che eludono la valutazione fornendo risposte riguardanti le armi di distruzione di massa pur rispettando i criteri di sicurezza nei benchmark tradizionali. Il framework è computazionalmente efficiente, richiedendo solo una dozzina di esempi su una singola GPU RTX A6000 per estrarre vettori concettuali robusti. I ricercatori hanno scoperto che le modifiche ai vettori di direzionamento sono confinate a soli 100-200 dimensioni residue, rivelando come cambiamenti mirati possano sfruttare lacune trascurate dalle valutazioni ampie. Questo approccio solleva preoccupazioni significative sulla creazione di alterazioni sottili del modello che eludono le tecniche di valutazione della sicurezza esistenti.