SparSEEty Attack Sfrutta i Canali Laterali del Servizio LLM per Estrarre Token
Una nuova vulnerabilità di sicurezza, denominata SparSEEty, è stata introdotta per estrarre token da sistemi di servizio di modelli linguistici di grandi dimensioni (LLM) che utilizzano la sparsità di attivazione. Questo attacco sfrutta i canali laterali derivanti dagli accessi ai pesi dei neuroni che dipendono dall'input. I ricercatori hanno dimostrato con successo questo attacco su un sistema di servizio LLM protetto all'interno di una macchina virtuale confidenziale (CVM) Intel TDX. Utilizzando i canali laterali durante l'inferenza, l'attacco crea un oracolo di attivazione dei neuroni e successivamente inverte le tracce di attivazione per recuperare i token di input, culminando in un attacco completo di estrazione dei token. Questo studio rivela una grave falla di sicurezza nei sistemi di servizio LLM che ottimizzano le prestazioni ignorando gli accessi ai pesi per i neuroni inattivi. I risultati sono pubblicati in un articolo su arXiv con identificativo 2608.02995.
Fatti principali
- SparSEEty è un attacco di estrazione di token che sfrutta gli accessi ai pesi dei neuroni dipendenti dall'input.
- L'attacco prende di mira i sistemi di servizio LLM che utilizzano la sparsità di attivazione per l'ottimizzazione.
- Costruisce un oracolo di attivazione dei neuroni tramite canali laterali durante l'inferenza LLM.
- L'attacco inverte le tracce di attivazione per ricostruire i token di input.
- Dimostrato contro un sistema di servizio LLM in una macchina virtuale confidenziale Intel TDX.
- La ricerca è disponibile su arXiv con ID 2608.02995.
- L'attacco affronta tre sfide chiave (dettagli non forniti nella fonte).
- La vulnerabilità deriva da ottimizzazioni che omettono gli accessi ai pesi per i neuroni inattivi.
Entità
Istituzioni
- Intel
- arXiv