Il framework CREDENCE scompone l'incertezza concettuale nei modelli AI

Un nuovo framework chiamato CREDENCE (Credal Ensemble Concept Estimation) è stato sviluppato dai ricercatori per i Concept Bottleneck Models (CBM). Questo approccio innovativo separa distintamente l'incertezza concettuale in due tipi: epistemica e aleatoria. A differenza dei CBM tradizionali che forniscono probabilità puntuali che fondono la sottospecificazione riducibile del modello con l'ambiguità irriducibile dell'input, CREDENCE caratterizza ogni concetto attraverso una previsione credale, rappresentata come un intervallo di probabilità. L'incertezza epistemica deriva da opinioni variabili tra diverse teste concettuali, mentre l'incertezza aleatoria è calcolata utilizzando un output di ambiguità specifico che si allinea con il disaccordo degli annotatori quando applicabile. Questa separazione consente un processo decisionale più informato, inclusa l'automazione di istanze a bassa incertezza e l'indirizzamento di casi ad alta aleatorietà per la valutazione umana. I risultati sono presentati nel preprint arXiv 2604.24170.