Framework di Attacco Gerarchico Prende di Mira Sistemi Multi-Agente Multi-Modali
Un nuovo articolo di ricerca su arXiv introduce HAM$^{3}$, un framework di attacco gerarchico progettato per esporre vulnerabilità nei sistemi multi-agente multi-modali (MM-MAS). Lo studio colma una lacuna nella ricerca sugli attacchi avversari, che si è concentrata principalmente su agenti isolati o contesti unimodali. HAM$^{3}$ scompone gli attacchi in tre livelli interconnessi: percezione, comunicazione e ragionamento. A livello di percezione, perturba input visivi, input testuali e le loro rappresentazioni fuse. A livello di comunicazione, corrompe il contenuto dei messaggi e la topologia di interazione tra gli agenti. Il framework mira a valutare sistematicamente la robustezza degli MM-MAS, sempre più utilizzati per ragionamento complesso e coordinamento tra diverse modalità. L'articolo è disponibile su arXiv con l'identificatore 2605.13213.
Fatti principali
- HAM$^{3}$ è un framework di attacco gerarchico per sistemi multi-agente multi-modali.
- Il framework attacca tre livelli: percezione, comunicazione e ragionamento.
- Gli attacchi a livello di percezione perturbano rappresentazioni visive, testuali e fuse.
- Gli attacchi a livello di comunicazione corrompono il contenuto dei messaggi e la topologia di interazione.
- Gli studi esistenti si concentrano su agenti isolati o contesti unimodali, non su MM-MAS.
- L'articolo è pubblicato su arXiv con ID 2605.13213.
- Gli MM-MAS consentono ragionamento complesso e coordinamento tra modalità.
- La ricerca mira a scoprire vulnerabilità negli MM-MAS.
Entità
Istituzioni
- arXiv