PSAO: Un Framework Strutturato per l'Ottimizzazione dei Prompt per LLM

Un nuovo framework noto come Prompt Segmentation and Annotation Optimisation (PSAO) è stato sviluppato dai ricercatori per migliorare i prompt nei modelli linguistici di grandi dimensioni (LLM). Questo approccio suddivide i prompt in segmenti comprensibili, come frasi, e li arricchisce con tag leggibili dall'uomo come {non importante}, {importante} e {molto importante}. Questi tag aiutano gli LLM a determinare il focus e a risolvere le ambiguità durante la creazione delle risposte. PSAO mira a migliorare la controllabilità e l'efficienza rispetto agli attuali metodi di ottimizzazione che trattano prompt non strutturati, i quali possono essere computazionalmente costosi e possono travisare l'intento originale. Gli autori forniscono definizioni formali per segmentazioni e annotazioni, dimostrando che annotazioni a livello di segmento ottimizzate possono migliorare gli output degli LLM preservando il prompt iniziale. L'articolo è accessibile su arXiv con l'identificatore 2605.14561.