I fumetti minacciano la sicurezza dell'IA multimodale

Uno studio recente pubblicato su arXiv indica che le narrazioni visive in stile fumetto possono eludere efficacemente le misure di sicurezza nei modelli linguistici multimodali di grandi dimensioni (MLLM). I ricercatori hanno introdotto ComicJailbreak, che consiste in 1.167 scenari di attacco categorizzati in 10 tipi di danno e 5 configurazioni di compito, integrando obiettivi dannosi all'interno di semplici fumetti a tre pannelli. Valutando 15 MLLM avanzati (6 commerciali e 9 open-source), gli assalti basati su fumetti hanno mostrato tassi di successo simili a quelli di robusti jailbreak basati su regole, con tassi di successo d'insieme superiori al 90% per diversi modelli commerciali. Sebbene le attuali strategie di difesa siano state efficaci contro questi fumetti dannosi, hanno comportato compromessi nelle prestazioni. Questo studio sottolinea una nuova vulnerabilità di sicurezza nei MLLM quando si trovano ad affrontare comandi visivamente fondati.