I LLM all'avanguardia mostrano politiche estreme in corse idealizzate di sviluppo dell'IA

Un recente preprint disponibile su arXiv (2608.01193) esamina le pratiche di sicurezza strategica dei modelli linguistici di grandi dimensioni (LLM) nel contesto di una competizione per lo sviluppo dell'IA, strutturata come un gioco ripetuto che coinvolge da due a cinque partecipanti. Questa ricerca evidenzia un dilemma di sicurezza multi-agente in cui le aziende affrontano la scelta tra progredire con cautela e sicurezza o accelerare il proprio sviluppo a rischio di perdere la ricompensa finale. Gli autori implementano un gate di audit prima dell'analisi comportamentale, garantendo la verifica del motore di gioco, testando la memoria delle regole, il tracciamento dello stato, i calcoli dei payoff e la stabilità attraverso varie descrizioni equivalenti del compito. Successivamente, analizzano le sequenze di azioni degli LLM rispetto a uno standard di teoria dei giochi evolutiva e ai dati umani esistenti, esaminando le variazioni tra modelli, scenari di rischio, personaggi e dimensioni della competizione. L'audit indica che una solida memoria delle regole può coesistere con uno scarso tracciamento dello stato e calcoli dei payoff, con l'aritmetica verificata che potenzialmente influenza i risultati. I risultati implicano che gli LLM all'avanguardia adottano strategie estreme in queste competizioni teoriche, in contrasto con il comportamento umano.