Nuovo Metodo AI Interpreta LLM Black-Box tramite Modelli Basati sull'Energia

Un nuovo metodo è stato proposto dai ricercatori per migliorare l'interpretabilità dei Large Language Models (LLM) proprietari accessibili solo tramite API chiuse, affrontando il problema essenziale dell'implementazione responsabile dell'IA. Questo approccio, descritto in un articolo su arXiv (2608.02879), introduce un interprete di attribuzione post-hoc e indipendente dal modello che opera a livello di frase. Utilizza un Modello Basato sull'Energia (EBM) come surrogato per comprendere la coerenza interna dell'LLM tra prompt e output, sfruttando questo paesaggio energetico per addestrare una rete interprete leggera. Dopo l'addestramento, l'interprete quantifica in modo indipendente l'impatto delle frasi del prompt su un output target specificato senza ulteriori chiamate API. Addestrando un interprete locale globalmente su input vari, il framework identifica tendenze di generazione più ampie e riduce i bias specifici dell'istanza. L'articolo include esperimenti che mostrano l'efficacia dell'EBM in questo ruolo, segnando un progresso cruciale per la comunità IA fornendo approfondimenti sul processo decisionale opaco dei modelli black-box comunemente usati in vari campi.