GRIP: Nuovo Metodo di IA Riduce le Allucinazioni nella Generazione Aumentata da Recupero

Un nuovo metodo di IA chiamato GRIP (Grounded Reasoning via Information-Restricted Premises) è stato sviluppato dai ricercatori per affrontare un problema significativo nei sistemi di generazione aumentata da recupero (RAG) noto come 'dominanza della query'. Questo problema si verifica quando encoder potenti permettono alla query di oscurare lo stato latente, rendendo le informazioni recuperate quasi inutili. GRIP affronta questo problema creando asimmetria di capacità, consentendo al decoder di accedere completamente alla query mentre vincola le prove recuperate attraverso uno stretto collo di bottiglia stocastico. Questo approccio garantisce che le prove includano solo informazioni non già presenti nella query. Nelle valutazioni su cinque benchmark di ragionamento, GRIP ha superato robusti baseline iterativi, diminuendo una metrica di informazione mutua query-latente di circa 30 volte (da 14.8 a 0.47 bit) e riducendo le allucinazioni del 73%. Un'analisi dell'allineamento residuo ha confermato che l'output del collo di bottiglia occupa sottospazi meno allineati rispetto alle rappresentazioni di base. L'articolo di ricerca è disponibile su arXiv con l'identificatore 2608.16776, presentato nella categoria Computer Science > Artificial Intelligence, e fa parte di iniziative in corso volte a migliorare l'affidabilità dei sistemi di IA che utilizzano conoscenze esterne, specialmente in compiti di ragionamento e risposta a domande.