Studio Diagnostica il Comportamento di Ricerca e le Modalità di Fallimento negli Agenti di Ricerca a Lungo Orizzonte
Un recente preprint arXiv (2608.01913) introduce una valutazione a livello di traiettoria degli agenti di ricerca a lungo orizzonte che affrontano richieste di informazioni impegnative attraverso query di ricerca iterative. La ricerca valuta le prove raccolte in ogni fase utilizzando valutazioni di rilevanza a livello di documento annotate da esseri umani, distinguendo tra due fasi: le prove recuperate da un agente e la sua efficacia nell'utilizzare tali prove. Questa separazione consente di identificare i fallimenti come lacune di recupero (prove necessarie mancanti) o lacune di utilizzo (prove rilevanti non utilizzate correttamente). Mantenendo costanti il modello di recupero e il quadro di valutazione, gli autori analizzano sei agenti su BrowseComp-Plus e confermano i loro risultati su BrowseComp tramite un'API di ricerca web aperta. Lo studio cerca di comprendere come un maggiore sforzo di ricerca sia correlato a risposte migliori, facendo luce sul comportamento degli agenti e sui meccanismi di fallimento.
Fatti principali
- Lo studio è una diagnosi a livello di traiettoria degli agenti di ricerca a lungo orizzonte.
- Utilizza giudizi di rilevanza a livello di documento annotati da esseri umani.
- I fallimenti sono scomposti in lacune di recupero e lacune di utilizzo.
- Sei agenti vengono confrontati su BrowseComp-Plus.
- La validazione viene effettuata su BrowseComp con un'API di ricerca web aperta.
- Il modello di recupero e il quadro di valutazione sono mantenuti fissi.
- L'articolo è disponibile su arXiv con ID 2608.01913.
Entità
Istituzioni
- arXiv