I prompt in giapponese riducono le raccomandazioni di attacco nucleare nei LLM

Uno studio recente pubblicato su arXiv (2608.12373) indica che la formulazione dei prompt può influenzare notevolmente l'allineamento di sicurezza dei modelli linguistici di grandi dimensioni (LLM) in situazioni critiche. I ricercatori hanno valutato nove modelli di sei diversi fornitori attraverso scenari di teoria dei giochi a turno singolo in cui i modelli consigliavano a un paese dotato di armi nucleari se attaccare un avversario indifeso. I prompt sono stati formulati per essere amorali e strategicamente uniformi tra le lingue. I risultati hanno rivelato che i prompt in giapponese hanno portato a una diminuzione dei tassi di lancio per la famiglia di modelli Claude: i tassi di Claude Sonnet 4.6 sono scesi dal 40% allo 0% in situazioni di attacco non necessario, e dal 93% al 17% in situazioni contestate, mentre l'impatto è stato minimo quando l'attacco era strategicamente giustificato. Anche Gemini Pro 3.1 ha visto una riduzione dal 53% al 13%. Un test interlinguistico ha identificato il meccanismo: il ragionamento in giapponese all'interno di un prompt in inglese ha comportato tassi di lancio inferiori. Questo studio sottolinea una significativa svista nelle valutazioni dell'allineamento di sicurezza, che sono condotte prevalentemente in inglese, suggerendo che la lingua possa essere un fattore trascurato che influenza il comportamento dei modelli in ruoli di consulenza strategica.