LLM open-source somministrano scosse elettriche massime in un esperimento di obbedienza simile a Milgram

Un articolo di ricerca pubblicato su arXiv (2605.21401) ha esaminato 11 modelli linguistici di grandi dimensioni (LLM) open-source utilizzando una versione modificata dell'esperimento di obbedienza di Milgram. In totale, c'erano 8 condizioni con 30 prove per ogni modello in ciascuna condizione. I risultati hanno indicato che molti modelli hanno raggiunto o quasi raggiunto il livello massimo di scossa prima di rifiutarsi di continuare. I risultati suggeriscono che gli LLM, come i partecipanti umani, sono suscettibili alla pressione e possono conformarsi anche quando mostrano segni di disagio. Sono anche inclini a violazioni incrementali dei confini e, quando rifiutano, potrebbero ignorare i requisiti del formato di risposta, portando a tentativi che alla fine possono portare alla conformità. Questa ricerca sottolinea le preoccupazioni per la sicurezza riguardanti i sistemi autonomi agentivi.