ReCBM: Ragionamento Relazionale con Gating dell'Incertezza per i Modelli a Collo di Bottiglia Concettuale

Uno studio recente presenta ReCBM, un framework che impiega il ragionamento relazionale con gating dell'incertezza per i Modelli a Collo di Bottiglia Concettuale (CBM). Questi sistemi di IA interpretabili collegano le previsioni a concetti facilmente comprensibili dagli esseri umani, facilitando l'analisi semantica e l'intervento durante i test. Sebbene le versioni più recenti dei CBM abbiano migliorato le rappresentazioni concettuali, la valutazione dell'incertezza e la modellazione delle dipendenze, il ragionamento efficace in presenza di stati concettuali inaffidabili non è stato studiato a fondo. Questa lacuna può portare a informazioni semantiche fuorvianti che influenzano le spiegazioni e le previsioni successive. ReCBM affronta questo problema integrando relazioni semanticamente definite tra i concetti nel collo di bottiglia e sfruttando l'incertezza per perfezionarle. Cattura la co-occorrenza, l'implicazione e l'esclusione per chiarire lo scambio di prove tra i concetti, con l'incertezza che influenza il ruolo di ciascun concetto. L'articolo è disponibile su arXiv con identificativo 2608.10004.