Gli Oracoli di Attivazione Sviluppano Punti Ciechi Specifici per Concetto

Uno studio recente pubblicato su arXiv (2607.23379) indica che gli Oracoli di Attivazione (AO)—modelli linguistici progettati per interpretare le attivazioni interne di un altro modello—possono presentare punti ciechi specifici per determinati concetti. In uno scenario regolamentato di Indovinello di Parole Tabù, i modelli soggetto sono stati aggiustati per utilizzare internamente un concetto nascosto astenendosi dal rivelarlo direttamente. Sorprendentemente, gli AO messi a punto hanno agito come anti-lettori, faticando costantemente a recuperare il concetto che era stato costante durante il loro addestramento. Questa scoperta suggerisce che gli AO non funzionano come interpreti imparziali; piuttosto, la loro performance è influenzata dai dati di addestramento e dagli obiettivi a cui sono esposti.