Meccanismo di sicurezza a tempo di test per modelli di diffusione testo-immagine
Un recente articolo di ricerca introduce una strategia a tempo di test volta a migliorare la sicurezza nei modelli di diffusione testo-immagine, affrontando specificamente il problema della creazione di contenuti vietati come nudità e proprietà intellettuale protetta, sia da prompt benigni che avversari. A differenza dei metodi di unlearning basati sull'addestramento, che possono essere costosi e portare a una significativa perdita di capacità generali, questo metodo utilizza stime intermedie di immagini pulite durante la generazione. Incorpora un obiettivo di margine sparso per identificare concetti proibiti. Al rilevamento di una violazione, il sistema ottimizza prontamente un residuo strutturato a basso rango nello spazio di condizionamento del testo utilizzando la retropropagazione troncata. Questo design preserva i pesi, garantendo che le inferenze non violative rimangano inalterate. L'articolo è disponibile su arXiv con l'identificatore 2608.03284.
Fatti principali
- L'articolo arXiv:2608.03284 propone un meccanismo di sicurezza a tempo di test per modelli di diffusione testo-immagine.
- Il metodo utilizza stime intermedie di immagini pulite per il rilevamento di contenuti proibiti.
- Viene impiegato un obiettivo di margine sparso per rilevare concetti proibiti.
- L'intervento ottimizza un residuo strutturato a basso rango nello spazio di condizionamento del testo tramite retropropagazione troncata.
- L'approccio preserva i pesi e non influisce sull'inferenza non violativa.
- Affronta i limiti dei metodi di unlearning basati sull'addestramento.
- Prende di mira contenuti proibiti come nudità e proprietà intellettuale protetta.
- L'articolo è un annuncio incrociato su arXiv.
Entità
Istituzioni
- arXiv