GhostVAE: Attacco Backdoor Furtivo Elude le Filigrane Semantiche di Diffusione

I ricercatori hanno presentato GhostVAE, un innovativo attacco backdoor volto a minare la filigrana semantica nei modelli di diffusione latente (LDM). Questo metodo sfrutta il sistema di rilevamento delle filigrane basato su reti neurali incorporando un backdoor nascosto nell'encoder di un autoencoder variazionale (VAE), consentendo di bypassare efficacemente il rilevamento delle filigrane. GhostVAE funziona in due fasi: inizialmente, crea un trigger universale attraverso la regolarizzazione dello spettro di potenza per rafforzare la resilienza del trigger; successivamente, addestra un encoder VAE compromesso utilizzando un obiettivo allineato ai parametri. Valutazioni complete su tre tecniche leader di filigrana semantica e tre popolari LDM rivelano che GhostVAE mantiene un tasso di successo del rilevamento della filigrana del 94,4% su immagini non dannose, facilitando al contempo un'evasione riuscita, esponendo una debolezza significativa nei metodi di filigrana esistenti e evidenziando la necessità di protezioni più forti nei materiali generati dall'IA.