Il dataset PLACES espone i fallimenti dei modelli T2I nel Sud del mondo
Un nuovo studio rivela che i framework di sicurezza dei modelli text-to-image (T2I) sono prevalentemente occidentali, creando vulnerabilità per il Sud del mondo. I ricercatori hanno condotto un red teaming localizzato e incentrato sulla comunità in centri urbani secondari di Ghana, Nigeria e due regioni indiane (Karnataka e Punjab). Attraverso workshop e coinvolgimento della comunità, hanno prodotto il dataset PLACES, contenente oltre 26.000 esempi di fallimenti dei modelli T2I. I prompt raccolti mostrano un'ampia diversità socio-culturale e linguistica rispetto ai dataset esistenti agnostici rispetto alla geografia. Lo studio enfatizza il pluralismo culturale e le prospettive storicamente sottorappresentate nella sicurezza dell'IA.
Fatti principali
- I framework di sicurezza T2I sono calibrati su un default occidentale.
- Lo studio è stato condotto in Ghana, Nigeria, Karnataka (India) e Punjab (India).
- Il dataset PLACES include oltre 26.000 esempi di fallimenti dei modelli T2I.
- Il coinvolgimento della comunità e i workshop di formazione hanno contestualizzato le norme locali.
- I prompt mostrano attributi socio-culturali e linguistici diversificati.
- Focus su centri urbani secondari nel Sud del mondo.
- Approccio duplice: localizzazione e partecipazione.
- La ricerca mira ad abbracciare il pluralismo culturale nella sicurezza T2I.
Entità
Istituzioni
- arXiv
Luoghi
- Ghana
- Nigeria
- India
- Karnataka
- Punjab
- Global South