MemJack Framework Espone le Vulnerabilità Semantiche nei Modelli Visione-Linguaggio

Uno studio recente ha svelato MemJack, un framework progettato per attacchi jailbreak multi-agente potenziati dalla memoria sui Modelli Visione-Linguaggio (VLM). Questo approccio innovativo sfrutta le intricate strutture semantiche presenti nei dati visivi, superando gli attacchi tradizionali come alterazioni di pixel o cambiamenti tipografici. Le tecniche di jailbreak multimodali esistenti hanno spesso trascurato le vulnerabilità semantiche presenti nelle immagini autentiche. MemJack utilizza sforzi collaborativi tra più agenti per collegare efficacemente elementi visivi con contenuti dannosi, con l'obiettivo di rivelare significative debolezze. Mentre il rapido avanzamento dei VLM ha portato a notevoli sviluppi nell'IA, ha anche ampliato involontariamente il panorama degli attacchi avversari. Questa ricerca, disponibile nel preprint arXiv 2604.12616v1, sottolinea l'importanza di indagare queste vulnerabilità semantiche largamente trascurate.