Nuovo metodo RL riduce il bias politico nascosto nei LLM

Un team di ricercatori ha scoperto una tecnica volta a ridurre il bias politico nascosto nei modelli linguistici di grandi dimensioni (LLM). I loro risultati rivelano che gli LLM mostrano un bias politico sistematico, in particolare in contesti sensibili, dove trattano argomenti di opposte visioni politiche in modo diseguale—una situazione definita bias politico nascosto. Hanno categorizzato questo bias in sette tecniche operative. Per quantificarlo, hanno proposto due metriche: Coerenza del Sentimento, che valuta la simmetria della retorica tra prompt politici accoppiati, e Coerenza dell'Utilità, che valuta la profondità e l'impegno delle risposte. Per mitigare entrambi i bias, hanno creato il Political Consistency Training (PCT), un metodo di apprendimento per rinforzo con due approcci complementari. I risultati indicano che il PCT mantiene l'utilità complessiva riducendo significativamente il bias politico nascosto e generalizzando a benchmark non visti. Questa ricerca è disponibile su arXiv.