SAPO: L'Ottimizzazione Automatica dei Prompt a Livello di Segmento Raggiunge Risultati all'Avanguardia

Una nuova tecnica per l'ottimizzazione automatica dei prompt, denominata SAPO (Segment-level Automatic Prompt Optimization), è stata descritta in un articolo su arXiv. A differenza dei metodi convenzionali che modificano i prompt nel loro insieme—spesso migliorando un aspetto mentre ne danneggiano un altro—SAPO suddivide i prompt in quattro segmenti distinti: ruolo, contesto, compiti e formato di output. Implementa miglioramenti mirati derivati dagli esempi top-5 e bottom-5 del set di dati di addestramento. Utilizzando un singolo modello linguistico di grandi dimensioni (LLM), il ciclo di ottimizzazione presenta meta-prompt statici e output organizzati per la segmentazione, l'analisi dei punti deboli e la generazione di candidati. Lo studio delinea una metodologia di addestramento/validazione e un processo di generazione in due fasi. SAPO è stato valutato utilizzando cinque set di dati benchmark—SQuADv2, TweetEval, XSUM, CommonGen e GSM8K—con GPT-3.5-Turbo e GPT-4o-mini come modelli di base. Ha superato i baseline zero-shot e i benchmark APO forti, inclusi APE, OPRO, EvoPrompt, GEPA e StraGO. Questo articolo è disponibile su arXiv con l'identificatore 2608.11219 nella categoria Computer Science > Artificial Intelligence.