Nuova difesa contro l'ottimizzazione fine-tuning dannosa dei LLM open-weight

Un recente articolo di ricerca introduce una strategia protettiva nota come Unidirectional Safety Gate (USG) volta a salvaguardare i modelli linguistici di grandi dimensioni allineati rilasciati da un fine-tuning dannoso a valle. L'indagine si concentra su uno scenario in cui i fornitori rilasciano modelli open-weight parzialmente protetti (PPOW), consentendo alla maggior parte dei pesi di essere addestrabili mentre proteggono un componente critico per la sicurezza. Implementato come un Null Space Cubic Layer e un Inverse Adapter dopo l'ultimo layer Transformer, l'USG impedisce i gradienti provenienti da campioni dannosi con stati nascosti all'interno di una zona sicura calibrata durante il fine-tuning. L'articolo, intitolato 'Gradient Immunity: Null-Space Resistance to Malicious Fine-Tuning', è disponibile su arXiv con ID 2608.05045. Questo metodo è pensato per situazioni in cui le difese attuali, che mirano al fine-tuning-as-a-service (FTaaS) o si basano sulla conformità degli utenti a valle con i protocolli di sicurezza, sono inefficaci. Stabilisce una soglia utilizzando esempi dannosi detenuti dal difensore, contribuendo allo sforzo in corso per proteggere i modelli linguistici open-weight contro il fine-tuning avversario.