Collasso della Geometria di Sicurezza nei LLM Multimodali e Correzione Adattiva della Deriva

Un nuovo studio da arXiv (2605.18104) rivela che i modelli linguistici di grandi dimensioni multimodali (MLLM) non riescono a trasferire le capacità di sicurezza dal testo agli input non testuali, un fenomeno denominato Collasso della Geometria di Sicurezza. I ricercatori hanno analizzato una direzione di rifiuto allineata al testo e una direzione di deriva indotta dalla modalità, mostrando che gli input multimodali comprimono la separazione utilizzabile lungo la direzione di rifiuto, rendendola inaffidabile per identificare input dannosi. Hanno quantificato questo tramite la separabilità condizionale del rifiuto, trovando che una deriva più forte è correlata a una separabilità più debole e a tassi di successo degli attacchi più elevati. Un intervento di attivazione a forza fissa che contrasta la deriva ha ripristinato la separabilità del rifiuto, suggerendo un potenziale metodo di correzione.