Nuovo Framework Consente la Cancellazione di Migliaia di Concetti nei Modelli di Diffusione Testo-Immagine

Il framework Erasing Thousands of Concepts (ETC) fornisce una soluzione scalabile alle preoccupazioni sulla sicurezza associate ai modelli di diffusione testo-immagine su larga scala, consentendo l'eliminazione di migliaia di concetti indesiderati preservando la qualità delle immagini generate. Sebbene questi modelli siano apprezzati per la loro accuratezza visiva, possono creare involontariamente contenuti problematici, incluso materiale protetto da copyright. I metodi attuali per la rimozione dei concetti sono stati limitati a poche centinaia di concetti a causa di problemi di scalabilità, precisione e robustezza. ETC utilizza un Modello a Mistura di Distribuzione t di Student (tMM) per modellare le distribuzioni di concetti a basso rango, consentendo la rimozione mirata dei concetti attraverso il trasporto ottimale affine. Inoltre, incorpora un modulo basato su Mistura di Esperti (MoE) chiamato MoEr per potenziarne la funzionalità. Questa ricerca, disponibile nel preprint arXiv 2604.16481v1, rappresenta un passo significativo in avanti nel migliorare la praticità e l'efficacia della cancellazione dei concetti.