GroupDRO a Strategia Mista Vincolata per una Selezione Equa dei Prompt di Sistema

È stato introdotto un nuovo approccio noto come GroupDRO a Strategia Mista Vincolata per migliorare l'equità nella selezione dei prompt di sistema nei modelli linguistici di grandi dimensioni (LLM). Questo metodo, descritto in un articolo arXiv (2608.04339), affronta il problema per cui domande formulate in modo diverso ma semanticamente simili producono risposte di qualità incoerente. Tipicamente, i prompt di sistema sono ottimizzati per una prestazione media, con conseguente risposte inadeguate o scadenti per alcune variazioni. Il nuovo framework assegna pesi ai prompt di sistema esistenti per ridurre la perdita di qualità informativa nel caso peggiore attraverso varie metriche di valutazione e gruppi, mantenendo la perdita media paragonabile a quella della selezione standard. Disaccoppiando la generazione del pool e la selezione, questa tecnica può utilizzare qualsiasi pool di prompt di sistema e un insieme di prompt complementari, puntando a una qualità delle risposte più uniforme tra diverse query degli utenti, il che è essenziale per l'applicazione efficace degli LLM nel recupero delle informazioni.