Segnali Demografici Impliciti Alterano gli Output dei LLM, Identificato un Segnale Interno

Uno studio recente pubblicato su arXiv (2608.11735) indica che i modelli linguistici di grandi dimensioni (LLM) adattano le loro risposte in base a indicatori demografici impliciti, anche quando gli utenti non identificano esplicitamente il loro background demografico. La ricerca identifica un segnale di attivazione interno localizzato che monitora questi cambiamenti nelle raccomandazioni, mostrando correlazioni fino a r=0.87 su cinque LLM. Quando sono presenti più segnali demografici, i loro segnali interni tendono a fondersi, ma i cambiamenti nell'output non si accumulano semplicemente. Inoltre, lo studio rivela che eliminare il segnale interno legato a un segnale specifico può mitigare il suo impatto in modo più efficace rispetto a istruire il modello a ignorare i dati demografici, mantenendo al contempo le prestazioni complessive di benchmark. Tuttavia, la capacità di eliminare selettivamente l'influenza di una dimensione mantenendo intatte le altre è limitata. Questi risultati migliorano la comprensione della personalizzazione implicita nei LLM, sollevando importanti considerazioni per l'equità e il controllo nei sistemi di intelligenza artificiale.