CA-ThinkFlow: Un framework RAG per la Ragioneria

È stato sviluppato un nuovo framework, denominato CA-ThinkFlow, per migliorare l'affidabilità dei Large Language Models (LLM) in compiti complessi e specifici per giurisdizione, come quelli della Ragioneria indiana (CA). Questo framework di Retrieval-Augmented Generation (RAG) efficiente in termini di parametri utilizza un modello di ragionamento quantizzato a 4 bit da 14B, specificamente il 14B-DeepSeek-R1, insieme a un sistema di estrazione Docling sensibile al layout che preserva la struttura dei documenti durante l'estrazione. Impiegando un approccio RAG fondamentale, CA-ThinkFlow integra perfettamente i dati recuperati nel prompt, sfruttando le capacità intrinseche di Chain-of-Thought (CoT) del modello per stabilire il contesto e generare risposte. Questa innovazione affronta le sfide che gli LLM incontrano con compiti numerici multi-step e le complessità delle normative legali, oltre a risolvere i problemi di scalabilità in ambienti con risorse limitate.