Prima Analisi Sistematica della Sicurezza Rivela Vulnerabilità Critiche nei Modelli AI State-Space

Uno studio rivoluzionario ha esposto significative vulnerabilità di sicurezza e protezione nei Modelli State-Space (SSM), una classe di architetture AI sempre più impiegate in applicazioni ad alto rischio. Questi modelli, che includono varianti strutturate come S4, S4D, DSS e S5, architetture selettive come Mamba e Mamba-2, e sistemi ibridi come Jamba, sono utilizzati per analisi genomiche, previsioni di serie temporali cliniche ed elaborazione di log di cybersecurity grazie alla loro efficiente scalabilità lineare nel tempo. La ricerca introduce il primo quadro completo per analizzare i rischi degli SSM, identificando cinque livelli di superfici di attacco. Sono state sviluppate tre nuove classi di attacco: attacchi avversari spettrali che sfruttano i guadagni della funzione di trasferimento, backdoor stateful a trigger ritardato che si attivano migliaia di passi dopo l'iniezione, e attacchi di saturazione della capacità di stato. Il documento stabilisce metriche formali tra cui Violazione dell'Integrità di Stato (StIV) e Rapporto di Amplificazione Cross-Contesto (X_S), con fondamenti teorici nella norma H∞ attraverso una Proposizione di Sensibilità Spettrale. Nonostante i loro vantaggi computazionali, le architetture ricorrenti a stato compresso degli SSM presentano proprietà di sicurezza precedentemente non studiate che potrebbero compromettere sistemi critici per la sicurezza. Il lavoro è stato pubblicato come arXiv:2604.16424v1 con tipo di annuncio cross, rappresentando un trattamento sistematico dei rischi cognitivi insieme a preoccupazioni di sicurezza e protezione.