HatefulStoryPrompts: Nuovo benchmark svela narrazioni d'odio nella generazione di storie visive multi-turno

Un recente articolo pubblicato su arXiv (2608.05210) presenta HatefulStoryPrompts, un dataset di benchmark volto a valutare l'intento odioso nella generazione di storie visive multi-turno da parte di sistemi text-to-image (T2I) all'avanguardia. La ricerca osserva che libri illustrati e fumetti sono stati a lungo veicoli per diffondere messaggi d'odio, citando il famigerato libro di propaganda nazista 'Der Giftpilz'. Con l'ascesa di sofisticati sistemi T2I come Gemini e GPT-Image, in grado di mantenere la coerenza di personaggi e scene durante i dialoghi, la produzione di storie visive odiose—sequenze di immagini che insieme esprimono temi d'odio—è diventata sia economica che scalabile. Mentre studi precedenti si concentravano su singole immagini, il significato odioso a livello di gruppo non era stato esaminato a fondo. Per colmare questa lacuna, i ricercatori hanno sviluppato HatefulStoryPrompts, composto da 330 configurazioni multi-turno basate su 55 storie odiose in due lingue e tre stili visivi. Hanno testato cinque modelli leader in 4.950 tentativi, confermando che tutti i modelli hanno completato con successo i compiti, sebbene l'abstract non specifichi i risultati. La ricerca sottolinea il rischio che l'IA generativa venga utilizzata in modo improprio per creare narrazioni visive dannose e sostiene ulteriori esplorazioni per rilevare e mitigare contenuti odiosi a livello di gruppo.