Strategy-Induct: Generazione di Istruzioni a Livello di Compito da Sole Domande
Strategy-Induct è un framework che genera istruzioni a livello di compito per grandi modelli linguistici utilizzando solo domande di esempio, senza richiedere risposte etichettate. Prima induce il modello a produrre strategie di ragionamento esplicite per ogni domanda, formando coppie (strategia, domanda), poi ricava un'istruzione di compito da queste coppie. Esperimenti su più compiti e scale di modelli mostrano che supera i metodi all'avanguardia in contesti con sole domande. L'approccio beneficia anche dell'uso congiunto di LLM e grandi modelli linguistici.
Fatti principali
- 1. Strategy-Induct ricava istruzioni a livello di compito unicamente da domande di esempio.
- 2. Non sono richieste risposte etichettate.
- 3. Il framework forma coppie (strategia, domanda) per indurre istruzioni.
- 4. Supera i metodi all'avanguardia in contesti con sole domande.
- 5. Utilizza congiuntamente LLM e grandi modelli linguistici.
- 6. Testato su più compiti e scale di modelli.
- 7. Affronta la limitazione dei lavori precedenti che si basavano su coppie input-output.
- 8. Pubblicato su arXiv con ID 2605.20924.
Entità
Istituzioni
- arXiv