Quadro di Deriva dell'Allineamento per l'Interazione Uomo-LLM a Lungo Termine

Uno studio recente introduce un quadro incentrato sui meccanismi per spiegare la deriva dell'allineamento nelle interazioni prolungate tra esseri umani e modelli linguistici di grandi dimensioni (LLM). La deriva dell'allineamento si riferisce al graduale spostamento in cui gli output di un sistema diventano sempre più influenzati dalle interazioni passate piuttosto che dall'input corrente dell'utente, pur mantenendo un'apparenza di coerenza e utilità. Questo fenomeno è difficile da identificare, poiché gli utenti possono percepire un miglioramento della loro esperienza a causa della crescente familiarità del sistema. Studi precedenti hanno esaminato principalmente le prestazioni a breve termine, output isolati o problemi di allineamento singoli, trascurando le dinamiche lente e cumulative. Il quadro distingue tra segnale A e segnale B, dettaglia lo sviluppo della deriva attraverso cicli di feedback e selezione di sottopattern, categorizza il processo in tre regimi di interazione e delinea le condizioni al contorno. Questo articolo è disponibile su arXiv con ID 2605.16516.