LoRAScan: Rilevamento di Prompt Backdoor in Adattatori a Basso Rango tramite Picchi di Attivazione

Uno studio recente pubblicato su arXiv (2608.06795) presenta LoRAScan, una tecnica volta a identificare prompt backdoor in adattatori a basso rango (LoRA) utilizzati in modelli linguistici di grandi dimensioni. Questa sottomissione di tipo cross evidenzia una vulnerabilità nella catena di approvvigionamento in cui adattatori non affidabili possono portare i modelli a produrre output dannosi, come codice malevolo, propaganda politica o pubblicità nascoste, quando attivati da input occulti. Le difese attuali o indeboliscono i segnali backdoor integrando gli adattatori con i modelli base, o gestiscono in modo inadeguato gli adattatori potenzialmente compromessi. LoRAScan rileva firme uniche nello spazio latente, in particolare picchi di attivazione nella proiezione verso il basso, associati a input trigger per identificare adattatori dannosi. Questo metodo è consapevole degli adattatori ed elimina la necessità di una mitigazione separata. Scritto da ricercatori anonimi, l'articolo migliora la sicurezza dell'IA nelle catene di approvvigionamento dei modelli linguistici di grandi dimensioni.