CreativeInstruct: un nuovo metodo per bilanciare qualità e creatività nei LLM
Un recente articolo su arXiv presenta CreativeInstruct, un metodo adattabile per l'instruction tuning che consente ai grandi modelli linguistici (LLM) di raggiungere un equilibrio tra output creativi e la qualità dei modelli che hanno subito un post-addestramento. Questo approccio incorpora speciali intervalli [StartCreativity] per incoraggiare un processo di generazione più creativo. Inoltre, l'articolo introduce una nuova metrica per la diversità strutturale, utilizzando la distanza di edit del grafo per valutare la variazione narrativa che le metriche lessicali e semantiche tradizionali potrebbero trascurare. In termini di generazione narrativa, CreativeInstruct dimostra una diversità comparabile o superiore sia ai benchmark multi-modello che alle varianti di output distillate, mantenendo al contempo la qualità ed eliminando la necessità di più modelli. L'articolo è disponibile su arXiv con l'identificatore 2608.07460.
Fatti principali
- CreativeInstruct è un metodo scalabile di instruction tuning per LLM.
- Insegna ai LLM a bilanciare generazioni creative, simili a quelle del modello base, con la qualità post-addestramento.
- Il metodo utilizza speciali intervalli [StartCreativity] per orientare la generazione verso la creatività.
- Viene introdotta una metrica di diversità strutturale basata sulla distanza di edit del grafo.
- Questa metrica cattura la variazione a livello narrativo che le metriche lessicali e semantiche non rilevano.
- Nella generazione narrativa, CreativeInstruct eguaglia o supera la diversità dei baselines multi-modello.
- Non sacrifica la qualità né richiede più modelli.
- L'articolo è disponibile su arXiv con l'identificatore 2608.07460.
Entità
Istituzioni
- arXiv