REIN: Nuovo framework AI riduce le allucinazioni nei modelli di ragionamento su larga scala

È stato sviluppato un nuovo framework chiamato REIN per affrontare le allucinazioni nei modelli di ragionamento su larga scala (LRM), che spesso producono risposte errate o non supportate. Come descritto in un articolo su arXiv (ID: 2608.07931), questo framework affronta due principali fonti di errore: l'allucinazione di ragionamento, che si verifica a causa di processi inferenziali errati, e l'allucinazione di conoscenza, in cui il modello manca di informazioni fattuali essenziali. REIN addestra gli LRM a generare una sequenza strutturata di ragionamento che incorpora l'autoriflessione prima di finalizzare una risposta, riducendo così le allucinazioni di ragionamento. Per contrastare le allucinazioni di conoscenza, implementa un sistema di ricompensa che spinge il modello a indicare esplicitamente l'incertezza (ad esempio, dicendo "non lo so") quando non sono disponibili risposte corrette. L'articolo include valutazioni complete su benchmark chiave, sebbene i risultati specifici non siano menzionati nell'abstract. Questa ricerca è cruciale per l'implementazione sicura delle tecnologie AI, specialmente in applicazioni ad alta affidabilità.