Sfruttati i bias degli LLM per manipolare le sintesi di ricerca AI

Uno studio recente pubblicato su arXiv (2605.00012) esamina i bias presenti nei modelli linguistici di grandi dimensioni (LLM) che generano sintesi dei risultati di ricerca, denominati sistemi LLM Overview. Questa ricerca approfondisce come questi bias possano essere sfruttati per influenzare la selezione delle fonti. Gli autori utilizzano l'apprendimento per rinforzo per addestrare un modello linguistico più piccolo in grado di riscrivere snippet di ricerca, aumentando così le loro possibilità di essere favoriti da un LLM Overview. Il disegno sperimentale limita deliberatamente la policy per mostrare il potenziale di tale manipolazione. I risultati sottolineano le vulnerabilità dei sistemi di ricerca basati su AI che dipendono dagli LLM sia per la selezione delle fonti che per la formulazione delle risposte.