Rischi di Jailbreaking nei LLM per le Operazioni delle Reti Intelligenti

Uno studio recente indaga le vulnerabilità legate al jailbreaking nei modelli linguistici di grandi dimensioni (LLM) utilizzati come assistenti nelle operazioni delle reti intelligenti, esaminando tre modelli specifici in condizioni avversarie. I modelli testati includono GPT-4o mini di OpenAI, Gemini 2.0 Flash-Lite di Google e Claude 3.5 Haiku di Anthropic, valutati utilizzando le tecniche Baseline, BitBypass e DeepInception in nove scenari di standard di affidabilità NERC. I risultati hanno rivelato un tasso complessivo di successo degli attacchi (ASR) del 33,1%, con DeepInception che ha raggiunto un ASR del 63,17%. In particolare, Claude 3.5 Haiku ha dimostrato una completa immunità con uno 0% di ASR. Lo studio sottolinea i pericoli rappresentati da utenti autorizzati che creano prompt dannosi per eludere le misure di sicurezza e generare istruzioni non conformi.