Nuova Metrica Misura l'Amplificazione del Bias Direzionale nel Didascalie delle Immagini
I ricercatori propongono l'Amplificazione del Bias Direzionale nel Didascalie (DBAC), una metrica che identifica come i modelli di didascalia delle immagini amplificano i bias presenti nei dati di addestramento. A differenza di metriche precedenti come Leakage in Captioning (LIC), DBAC individua la fonte dell'amplificazione del bias ed è meno sensibile alla scelta dell'encoder di frasi. Il lavoro colma una lacuna nella misurazione del bias per i dataset di didascalie, dove le metriche focalizzate sulla classificazione non riescono a catturare la semantica linguistica.
Fatti principali
- DBAC è una metrica linguistica e direzionale per l'amplificazione del bias nel didascalie delle immagini.
- Migliora LIC identificando la fonte dell'amplificazione del bias.
- DBAC è meno sensibile agli encoder di frasi rispetto a LIC.
- Metriche esistenti come BA (MALS) e DPA sono inefficaci per i dataset di didascalie.
- L'amplificazione del bias si verifica quando i modelli peggiorano i bias presenti nei dati di addestramento.
- La ricerca è pubblicata su arXiv con identificatore 2503.07878.
- L'articolo è un cross di sostituzione, indicando una versione rivista.
Entità
Istituzioni
- arXiv