Indagine mappa le minacce alla sicurezza in evoluzione nei modelli linguistici multimodali di grandi dimensioni

Una nuova indagine su arXiv (2608.07535) analizza sistematicamente il panorama in evoluzione della sicurezza dei modelli linguistici multimodali di grandi dimensioni (MLLM), che integrano modalità eterogenee attraverso allineamento e fusione. Gli autori propongono una tassonomia multimodale fondata delle minacce alla sicurezza, che copre attacchi avversari, avvelenamento dei dati, jailbreak e allucinazioni. Evidenziano nuove minacce derivanti dalla maggiore complessità dei modelli e dalle interazioni cross-modali, tra cui compromissione dell'integrazione delle modalità, disallineamento delle modalità e rischi di sicurezza fusi. Questi cambiamenti nella modellazione delle minacce vanno oltre le assunzioni uni-modali, imponendo nuovi vincoli alle soluzioni di sicurezza non catturati dai framework esistenti. L'indagine mira a fornire un'analisi sistematica per guidare la futura ricerca e sviluppo di salvaguardie per i MLLM.