SAGA Tool Rintraccia i Video Generati dall'IA ai Loro Sistemi di Origine

Ricercatori dell'Università della California, Riverside hanno sviluppato SAGA (Source Attribution of Generative AI Videos), uno strumento forense che identifica i video generati dall'intelligenza artificiale e li riconduce al sistema specifico che li ha creati. Guidato dallo studente di dottorato Rohit Kundu sotto la supervisione del professor Amit Roy-Chowdhury, in collaborazione con YouTube e Google DeepMind, SAGA analizza pattern visivi o 'impronte digitali' lasciati dai modelli generativi. Questi pattern includono dettagli spaziali all'interno dei fotogrammi e relazioni temporali tra le sequenze, utilizzando una tecnica chiamata Temporal Attention Signatures (T-Sigs). Testato su dataset pubblici con 19 diversi generatori di video IA, SAGA può distinguere video reali da falsi, determinare se un video è stato generato da testo o da un'immagine, differenziare tra versioni di modelli IA e identificare il team di sviluppo dietro il modello. Lo strumento affronta la crescente sfida dei video realistici generati dall'IA, spostando la domanda critica dal 'se un video sia falso' a 'quale sia la sua fonte'.