KARL: Apprendimento per Rinforzo Consapevole dei Confini della Conoscenza Riduce le Allucinazioni dei LLM

KARL (Knowledge-Boundary-Aware Reinforcement Learning) è un nuovo framework progettato per minimizzare le allucinazioni nei grandi modelli linguistici allineando il comportamento di astensione con i mutevoli confini della conoscenza del modello. Descritto in un articolo su arXiv (2604.22779), KARL presenta due innovazioni principali: una Ricompensa Consapevole dei Confini della Conoscenza che valuta in tempo reale i confini della conoscenza attraverso statistiche di risposta all'interno del gruppo, e una Strategia di Addestramento RL a Due Fasi che inizialmente esplora il confine della conoscenza per prevenire una 'trappola dell'astensione' prima di trasformare le risposte errate oltre quel confine in astensioni. Questo metodo affronta un notevole svantaggio delle attuali tecniche RL, che spesso si basano su sistemi di ricompensa statici che possono portare a un'eccessiva cautela e a una ridotta accuratezza.