HoloCount: Nuovo Benchmark per il Conteggio Visivo nei MLLM
È stato introdotto un nuovo benchmark chiamato HoloCount per valutare le capacità di conteggio visivo nei Modelli Linguistici Multimodali di Grandi Dimensioni (MLLM). Il benchmark è strutturato attorno a una tassonomia gerarchica a tre livelli, progettata per valutare i modelli in due categorie principali: Conteggio Semantico, che si concentra sull'enumerazione atomica e basata su proprietà, e Conteggio Analitico, che valuta la composizione logica attraverso il ragionamento spaziale e basato su insiemi. La motivazione alla base di HoloCount è il problema persistente delle allucinazioni numeriche nei MLLM, dove i modelli spesso non forniscono risposte quantitative accurate nonostante eccellano nella comprensione qualitativa della scena. I benchmark di conteggio esistenti sono criticati per concentrarsi solo sulla percezione di base in contesti semplificati, mancando così i complessi modi di fallimento che emergono sotto vincoli logici o condizioni avversarie. HoloCount mira a essere uno strumento olistico e diagnostico per catturare queste sfide sfumate. Il benchmark è descritto in un articolo su arXiv (arXiv:2607.06420), con il tipo di annuncio 'cross'. L'articolo è scritto da ricercatori i cui nomi non sono forniti nel contenuto. Lo sviluppo del benchmark è significativo per avanzare l'intelligenza multimodale, poiché il conteggio visivo è un pilastro fondamentale che richiede un grounding fine e un ragionamento spaziale. L'articolo probabilmente include esperimenti e risultati, ma questi dettagli non sono presenti nel testo fornito. L'URL della fonte è https://arxiv.org/abs/2607.06420.
Fatti principali
- HoloCount è un nuovo benchmark per il conteggio visivo nei MLLM.
- È strutturato attorno a una tassonomia gerarchica a tre livelli.
- Valuta il Conteggio Semantico (enumerazione atomica e basata su proprietà) e il Conteggio Analitico (composizione logica tramite ragionamento spaziale e basato su insiemi).
- I MLLM spesso mostrano allucinazioni numeriche, che HoloCount mira ad affrontare.
- I benchmark esistenti si concentrano sulla percezione di base in contesti semplificati.
- HoloCount è progettato per catturare complessi modi di fallimento sotto vincoli logici o condizioni avversarie.
- L'articolo è disponibile su arXiv con ID 2607.06420.
- Il tipo di annuncio è 'cross'.
Entità
Istituzioni
- arXiv