CauSim: Un Framework per Scalare il Ragionamento Causale nei LLM
CauSim, un nuovo framework, mira a migliorare il ragionamento causale nei modelli linguistici di grandi dimensioni (LLM) reinterpretandolo come un compito di apprendimento supervisionato scalabile, anziché un problema con etichette limitate. Questo metodo sviluppa modelli causali strutturali eseguibili (SCM) progressivamente complessi, che gli LLM costruiscono passo dopo passo, consentendo loro di adattarsi a sistemi globalmente complessi garantendo risposte verificabili a domande causali. CauSim funziona attraverso varie rappresentazioni convertendo la conoscenza causale non eseguibile in codice, aiutando nell'aumento dei dati e traducendo gli SCM eseguibili in linguaggio naturale per una migliore supervisione in rappresentazioni difficili. La ricerca è disponibile su arXiv con l'identificatore 2605.09079.
Fatti principali
- CauSim è un framework per scalare il ragionamento causale nei LLM.
- Costruisce modelli causali strutturali eseguibili (SCM) costruiti incrementalmente dai LLM.
- Il framework trasforma il ragionamento causale da un problema con poche etichette in uno supervisionato scalabile.
- CauSim formalizza la conoscenza causale non eseguibile in codice per l'aumento dei dati.
- Traduce gli SCM eseguibili in linguaggio naturale per la supervisione.
- L'articolo è pubblicato su arXiv con ID 2605.09079.
- I LLM attualmente faticano con il ragionamento causale nonostante eccellano in matematica e programmazione.
- I sistemi causali sono complessi e spesso espressi in forme non eseguibili.
Entità
Istituzioni
- arXiv