Modelli Advisor Migliorano le Prestazioni dei LLM Black-Box del 27%
Un nuovo metodo chiamato Modelli Advisor è stato sviluppato dai ricercatori per addestrare modelli compatti a pesi aperti che forniscono una guida adattiva in linguaggio naturale, migliorando i modelli linguistici frontier black-box. Questa tecnica produce un aumento del 27,4% delle prestazioni per GPT-5.2 nel compito RuleArena (Tasse), riduce il numero di passaggi richiesti da Gemini 3 Pro nei compiti SWE agent del 24,6% e supera gli ottimizzatori di prompt statici nell'adattare GPT-5 alle preferenze individuali degli utenti (85-100% rispetto al 40-60%). I Modelli Advisor sono sia trasferibili che resilienti, mantenendo le prestazioni su vari benchmark. Questo approccio consente l'ottimizzazione parametrica dei modelli black-box senza la necessità di modificarne i pesi.
Fatti principali
- I Modelli Advisor addestrano piccoli modelli a pesi aperti per generare consigli dinamici per LLM black-box.
- Migliorano le prestazioni di GPT-5.2 in RuleArena (Tasse) del 27,4%.
- Riducono i passaggi di Gemini 3 Pro nei compiti SWE agent del 24,6%.
- Superano gli ottimizzatori di prompt statici nella personalizzazione di GPT-5 (85-100% vs. 40-60%).
- Gli Advisor sono trasferibili tra diversi modelli studente e frontier.
- Non si osserva alcun degrado su altri benchmark.
- Il metodo non richiede la modifica dei pesi del modello.
- Pubblicato su arXiv come 2510.02453v3.
Entità
Istituzioni
- arXiv