SIRLM: un nuovo modello linguistico a regole internalizzate nella struttura mira ad allineare i LLM ai vincoli dei grafi di conoscenza
Un recente articolo pubblicato su arXiv presenta il Structure-Internalized Rule Language Model (SIRLM), progettato per affrontare il problema della deriva percettiva delle evidenze di ragionamento nei grandi modelli linguistici (LLM) nell'ambito del ragionamento su grafi di conoscenza (KGR). Il KGR si concentra sullo scoprire fatti nascosti attraverso evidenze strutturali presenti nei grafi di conoscenza. Gli autori sottolineano che, sebbene i LLM abbiano fatto progressi nei compiti KGR, le incongruenze tra la rappresentazione nei grafi di conoscenza e la conoscenza parametrica dei LLM creano sfide. Questa discrepanza provoca la cosiddetta 'deriva percettiva delle evidenze di ragionamento'. SIRLM mira a generare regole strutturali per sincronizzare l'apprendimento parametrico con i meccanismi di ragionamento. L'articolo, identificato come arXiv:2608.17443, cerca di migliorare l'affidabilità e l'accuratezza del ragionamento automatico, fondamentale per applicazioni come la ricerca semantica e la risposta a domande.
Fatti principali
- L'articolo è disponibile su arXiv con identificativo 2608.17443.
- La tipologia di annuncio dell'articolo è 'nuovo'.
- Il ragionamento su grafi di conoscenza (KGR) mira a scoprire fatti latenti utilizzando evidenze strutturali nei KG.
- I grandi modelli linguistici (LLM) hanno mostrato progressi nei compiti KGR tramite apprendimento contestuale.
- Viene identificato il problema dell'inconsistenza di rappresentazione tra la struttura del KG e la conoscenza parametrica dei LLM.
- Questa inconsistenza causa ciò che gli autori chiamano 'deriva percettiva delle evidenze di ragionamento' nei LLM sui KG.
- SIRLM è l'acronimo di Structure-Internalized Rule Language Model.
- SIRLM si concentra sulla generazione di regole strutturali per accoppiare l'apprendimento parametrico della conoscenza strutturale con il ragionamento.
Entità
Istituzioni
- arXiv