Macro: Un framework di allineamento delle preferenze migliora la generazione controfattuale multilingue

Un nuovo framework chiamato Macro utilizza l'ottimizzazione diretta delle preferenze per migliorare la generazione di spiegazioni controfattuali multilingue da parte di grandi modelli linguistici. Le spiegazioni controfattuali autogenerate (SCE) sono input leggermente alterati per invertire le previsioni di un LLM, fornendo informazioni sul suo comportamento opaco. Tuttavia, creare SCE in lingue diverse dall'inglese è stato difficile a causa di un conflitto tra validità e minimalità. Macro affronta questo problema utilizzando una funzione di punteggio composita per creare coppie di preferenze che quantificano questo compromesso. Esperimenti condotti su quattro LLM in sette lingue diverse dimostrano che Macro migliora la validità in media del 12,55% rispetto alla baseline del chain-of-thought, mantenendo la minimalità.