Nightshade: lo strumento di avvelenamento dell'IA che dà potere agli artisti contro il furto del copyright

Gli artisti hanno ora una nuova arma nella loro lotta contro i software di immagini generative basati sull'IA che utilizzano le loro opere per l'addestramento senza autorizzazione. Nightshade, sviluppato dal professor Ben Zhao dell'Università di Chicago e dal suo team, consente ai creatori di aggiungere modifiche invisibili ai pixel delle opere d'arte digitali, corrompendo il modo in cui i modelli di IA le interpretano. Ad esempio, un'immagine di un tavolo potrebbe essere letta come un gatto, interrompendo la capacità del modello di generare immagini coerenti. Secondo MIT Technology Review, Zhao spera che questo 'ribalterà l'attuale equilibrio di potere, togliendolo alle aziende di IA che hanno preso dati protetti da copyright per addestrare i loro modelli.' Lo strumento prende di mira modelli text-to-image come DALL-E, Stable Diffusion e Midjourney, potenzialmente destabilizzando le loro caratteristiche generali con un numero moderato di attacchi, come affermato nel documento di ricerca citato da The Verge. Nightshade diventerà presto open source. Uno strumento complementare, Glaze, maschera lo stile artistico (ad esempio, trasformando un'illustrazione in una foto 3D o un'opera realistica in cubista). Gli sviluppatori potrebbero integrare Nightshade in Glaze, dando agli utenti la scelta tra l'oscuramento dello stile o l'avvelenamento diretto dei dati, in attesa di una soluzione migliore come i pagamenti di royalty.