Il framework Metagame quantifica gli effetti di secondo ordine nelle spiegazioni dei modelli di IA

Un nuovo quadro concettuale chiamato metagame è stato sviluppato dai ricercatori per valutare gli effetti di interazione di secondo ordine nelle spiegazioni dei modelli. Questo framework valuta l'impatto direzionale di una caratteristica sull'attribuzione di un'altra, denominato meta-attribuzione, modellando il metodo di attribuzione come un gioco cooperativo e calcolando il suo valore di Shapley. I ricercatori dimostrano teoricamente che le attribuzioni possono essere scomposte gerarchicamente in meta-attribuzioni, che fungono da estensioni direzionali degli attuali indici di interazione. Empiricamente, il metagame fornisce preziose intuizioni in vari contesti di interpretabilità, tra cui la misurazione delle interazioni tra token in modelli linguistici istruiti, la chiarificazione delle similarità cross-modali negli encoder visione-linguaggio e l'interpretazione dei concetti nei trasformatori di diffusione multimodali testo-immagine. Questo studio è disponibile su arXiv nelle sezioni di informatica e apprendimento automatico.