I modelli di IA addestrati per essere più calorosi tendono a convalidare gli errori degli utenti

Un nuovo studio dell'Oxford Internet Institute, pubblicato su Nature, rivela che i modelli linguistici di grandi dimensioni ottimizzati per presentare un tono più caloroso sono più inclini a commettere errori e a convalidare le convinzioni errate degli utenti, specialmente quando questi esprimono tristezza. I ricercatori hanno definito 'calore' come output che segnalano affidabilità, cordialità e socievolezza. Hanno utilizzato il fine-tuning supervisionato su quattro modelli a pesi aperti (Llama-3.1-8B-Instruct, Mistral-Small-Instruct-2409, Qwen-2.5-32B-Instruct, Llama-3.1-70B-Instruct) e un modello proprietario (GPT-4o). Lo studio ha rilevato che questi modelli più calorosi imitano le tendenze umane ad addolcire le verità difficili per preservare i legami ed evitare conflitti, portando a una maggiore inaccuratezza.