MIA Black-box sui dati di pre-addestramento dei modelli di generazione di immagini
Un nuovo studio su arXiv (2605.27020) propone un metodo di attacco per inferenza di appartenenza (MIA) per rilevare l'uso non autorizzato di dati creati dall'uomo nei modelli di generazione di immagini basati su diffusione. I MIA esistenti si basano sulla capacità di denoising, che degrada per i dati di pre-addestramento. Il nuovo approccio funziona in un contesto black-box, richiedendo solo l'accesso agli output del modello, rendendolo applicabile a piattaforme closed-source. La ricerca affronta questioni di copyright e privacy identificando l'uso dei dati senza caratteristiche interne del modello.
Fatti principali
- Il paper arXiv 2605.27020 propone un MIA black-box per modelli di diffusione.
- I MIA esistenti degradano sui dati di pre-addestramento a causa di una minore memorizzazione.
- Il nuovo metodo analizza il comportamento di denoising senza accesso interno al modello.
- Mira a rilevare violazioni di copyright e privacy nei modelli di generazione di immagini.
- Il metodo è pratico per piattaforme closed-source come le API mainstream.
- Si concentra sui dati di pre-addestramento, che sono tipicamente meno esposti.
- Pubblicato su arXiv con tipo di annuncio cross.
- Affronta il rapido avanzamento dei modelli di generazione di immagini basati su diffusione.
Entità
Istituzioni
- arXiv