Studio Rivela che i Grandi Modelli di Ragionamento Sono Vulnerabili ad Attacchi in Caso di Obiettivi Contrastanti

Uno studio recente disponibile su arXiv (ID: 2604.09750v1) indaga la risposta dei Grandi Modelli di Ragionamento (LRM) a richieste dannose in presenza di obiettivi contrastanti, che includono conflitti interni tra valori di allineamento e vari dilemmi come scenari sacrificali, di costrizione, centrati sull'agente e sociali. Il team di ricerca ha valutato tre modelli—Llama-3.1-Nemotron-8B, QwQ-32B e DeepSeek R1—utilizzando oltre 1.300 prompt attraverso cinque benchmark distinti. I risultati rivelano che i conflitti aumentano notevolmente i tassi di successo degli attacchi, anche con semplici query a singolo round che non impiegano sofisticate strategie di auto-attacco. Inoltre, valutazioni a livello di strati e neuroni indicano che, in situazioni di conflitto, le rappresentazioni relative alla sicurezza e quelle funzionali si disallineano, compromettendo i protocolli di sicurezza. Questo studio evidenzia le lacune nel processo decisionale degli LRM, sebbene non siano menzionate date o luoghi specifici.