Arresto Consapevole dei Costi per l'Acquisizione di Strumenti LLM

Un nuovo articolo di ricerca da arXiv introduce CAM-DF (Cost-Aware Marginal Decision-Focused Stopping), un metodo per determinare quanti strumenti esterni un agente LLM dovrebbe acquisire. L'approccio affronta il compromesso tra compiti sotto-informati con troppo pochi strumenti e l'incorrere in costi eccessivi, carico di contesto ed esposizione della privacy con troppi strumenti. I metodi di classificazione esistenti non riescono a tenere conto dei costi eterogenei. CAM-DF si addestra direttamente sul divario offline tra l'arresto e la continuazione, utilizzando il suo segno per etichettare le decisioni e la magnitudine per pesare gli errori in base al payoff. Viene proposta anche una variante compatta, CAM-DF-lite. L'articolo dimostra che le regole basate solo sul punteggio sono subottimali in presenza di eterogeneità dei costi.