UniTexture: Attacco di Texture Avversaria Universale sui Modelli VLA
Un nuovo attacco di texture avversaria chiamato UniTexture è stato sviluppato dai ricercatori, prendendo di mira i modelli Vision-Language-Action (VLA) — sistemi robotici versatili che possono eseguire vari compiti di manipolazione basati su istruzioni linguistiche. Questo attacco innovativo utilizza un singolo oggetto 3D texturizzato per creare perturbazioni specifiche nelle previsioni delle azioni VLA attraverso diversi compiti, sfruttando debolezze che gli attacchi esistenti ottimizzati per singoli compiti trascurano. Utilizzando un renderer differenziabile, il metodo propaga all'indietro i gradienti dalle azioni di output della politica ai parametri della texture, ottimizzando la texture condivisa attraverso vari compiti, stati e punti di vista. Documentato nell'articolo arXiv 2608.13453, questa ricerca rivela potenziali pericoli per la sicurezza nell'IA embodied, sottolineando la necessità di difese più forti nei modelli VLA per un'implementazione sicura nel mondo reale.
Fatti principali
- UniTexture è un attacco di texture avversaria universale cross-task per i modelli VLA.
- Utilizza un singolo oggetto 3D texturizzato per indurre deviazioni mirate nelle previsioni delle azioni.
- L'attacco propaga all'indietro i gradienti dalle azioni di output ai parametri della texture tramite un renderer differenziabile.
- Ottimizza congiuntamente la texture su compiti, istruzioni, stati e punti di vista.
- Gli attacchi esistenti sono tipicamente ottimizzati per singoli compiti, lasciando inesplorate le vulnerabilità cross-task.
- I modelli VLA sono politiche robotiche generaliste che seguono istruzioni linguistiche.
- L'interferenza avversaria può causare comportamenti fisici non sicuri negli agenti embodied.
- L'articolo è disponibile su arXiv con ID 2608.13453.
Entità
Istituzioni
- arXiv