Rilevamento della tossicità specifico per comunità necessario per l'IA testo-immagine

Un nuovo articolo su arXiv (2607.24898) sostiene che gli attuali rilevatori di tossicità per la generazione testo-immagine falliscono nei confronti delle comunità marginalizzate. Questi rilevatori adottano un approccio unico per tutti, ma circa il 35% delle immagini etichettate come sicure sono considerate dannose dalle comunità di disabili. Gli autori propongono un rilevamento della tossicità specifico per comunità (CTD) e collaborano con esperti di disabilità per sviluppare linee guida di sicurezza per le comunità del nanismo e dei non vedenti/ipovedenti. Utilizzando un dataset di 2.400 immagini annotate generate da T2I, mostrano che sia i grandi modelli visione-linguaggio che i rilevatori generici falliscono catastroficamente in contesti zero-shot, con punteggi F1 di 0,32 e 0,37 – inferiori a un'ipotesi casuale. L'adattamento basato su prompt mostra promesse.