Trasferimento Cross-Tier Consapevole dei Costi Riduce i Costi di Ottimizzazione dei Prompt LLM

Un nuovo studio pubblicato su arXiv (2608.10694v2) introduce un approccio innovativo ed economico per migliorare i prompt LLM e i programmi agente utilizzando metodi evolutivi. In questa tecnica, le funzioni dell'LLM vengono suddivise durante la ricerca: un livello a basso costo gestisce output ad alto volume, mentre un modello più forte si occupa di compiti rari che richiedono una riflessione più profonda. L'approccio sfrutta il trasferimento cross-tier verso l'alto per applicare un prompt economicamente vantaggioso a un modello più avanzato. La ricerca dettaglia un quadro per decidere quando ricerche più economiche possono sostituire quelle più costose, basato su test su quattro compiti (HotpotQA, IFBench, LiveBench-Math, HoVer) con undici modelli. I risultati mostrano una performance equivalente o superiore alle ottimizzazioni dello stesso livello, ottenendo riduzioni significative dei costi di 5,6-14 volte, e persino 25-54 volte in alcuni casi.