Uno studio rileva che i LLM mostrano bias decisionali attraverso un'imitazione errata

Uno studio recente pubblicato su arXiv (2608.12339) esplora come i bias decisionali emergono nei modelli linguistici di grandi dimensioni (LLM), mostrando che tali bias possono svilupparsi anche quando i dati di addestramento riflettono preferenze umane imparziali o identificano correttamente i bias. La ricerca scopre due meccanismi principali: l'imitazione errata delle preferenze umane basata su comportamenti non correlati a tali preferenze, e l'imitazione di azioni umane apertamente distorte. In quattro esperimenti incentrati su bias economici, sia ChatGPT-4o che Qwen hanno mostrato bias di prova sociale quando esposti a resoconti di azioni umane che non indicavano genuinamente preferenze. Inoltre, i modelli hanno mostrato avversione alla perdita quando questa era etichettata come bias, nonostante fossero forniti con rapporti scientifici completi. Questo studio sottolinea che gli LLM possono dedurre preferenze da comportamenti illogici, risultando in decisioni distorte. Evidenzia l'importanza di selezionare attentamente i dati di addestramento e i metodi di prompting per ridurre i bias indesiderati nei sistemi di intelligenza artificiale.