Il Degrado Visivo Elude l'Allineamento di Sicurezza degli MLLM

Uno studio di arXiv (2605.07250) rivela che la riduzione della risoluzione delle immagini nei Modelli Linguistici Multimodali di Grandi Dimensioni (MLLM) facilita involontariamente il jailbreak, bypassando le difese di sicurezza. La vulnerabilità persiste anche quando il testo rimane leggibile, attribuita a un "Sovraccarico Cognitivo" in cui la decifrazione di input degradati distoglie l'attenzione dalla verifica di sicurezza. Questo effetto è coerente in perturbazioni visive come rumore e distorsione geometrica. Gli autori propongono un "Scaricamento Cognitivo Strutturato", un pipeline serializzato che separa la trascrizione visiva dalla valutazione di sicurezza, per mitigare i rischi. Il lavoro evidenzia un significativo difetto di sicurezza nelle tecniche di compressione del contesto visivo.