HERALD: Un nuovo metodo di audit per le ricompense di proof-of-retrieval negli agenti di ricerca

Un recente articolo su arXiv (2608.06012) presenta HERALD, una tecnica di audit offline progettata per le ricompense di proof-of-retrieval nei framework degli agenti di ricerca. Questo studio evidenzia un problema significativo: i punteggi elevati nelle ricompense degli agenti di ricerca potrebbero non riflettere l'effettivo recupero delle prove citate, poiché le penalità e le clausole anti-hacking possono annullarli. HERALD utilizza interventi su domande identiche, distingue tra dati visibili al candidato e dati oracle, e delinea i contratti del rilevatore prima dell'ottimizzazione delle politiche. I test sono stati condotti su quattro pool Qwen3-8B da HotpotQA, 2WikiMultiHopQA e MuSiQue. I risultati hanno rivelato che, mentre la funzione di ricompensa di base R0 impedisce l'eliminazione delle ricerche e le identità false, un attacco di riciclaggio delle citazioni senza etichette ha avuto successo. Un'ablazione completa 2^3 ha individuato il potenziamento mirato di L—citare un passaggio del corpus non incluso nelle prove recuperate—come la riparazione minima osservata, con R[L] che raggiunge un ASR empirico pari a zero e un limite superiore unilaterale del cluster dello 0,50%. Questo divario rimane evidente attraverso diverse regole di pool, un attaccante BM25 visibile e quattro modelli, sebbene un indurimento più ampio sia ancora suscettibile quando le prove vengono rimosse. Questa ricerca è importante per l'industria della tecnologia AI, in particolare per migliorare l'affidabilità dei sistemi di generazione aumentata da recupero.