Sistematizzazione delle minacce alla sicurezza e alla protezione degli agenti che utilizzano computer
Un nuovo articolo di rassegna su arXiv (2505.10924) sistematizza le conoscenze sulle minacce alla sicurezza e alla protezione degli agenti che utilizzano computer (CUA), sistemi basati su LLM che interagiscono autonomamente con interfacce utente grafiche. L'articolo conduce una revisione completa della letteratura per definire i CUA ai fini dell'analisi della sicurezza, identificare le vulnerabilità nel ragionamento guidato da LLM e affrontare i rischi derivanti dall'integrazione di più componenti software e input multimodali. Il lavoro mira a mappare il panorama delle minacce emergenti mentre i CUA si evolvono da prototipi di base ad agenti sofisticati in grado di navigare in app desktop, pagine web e app mobili.
Fatti principali
- L'articolo arXiv 2505.10924 presenta una rassegna sulle minacce alla sicurezza e alla protezione degli agenti che utilizzano computer.
- I CUA sono sistemi basati su LLM che emulano operazioni simili a quelle umane nelle interfacce utente grafiche.
- La rassegna sistematizza le conoscenze attraverso quattro obiettivi di ricerca, inclusa la definizione dei CUA per l'analisi della sicurezza.
- Le vulnerabilità derivano dal ragionamento guidato da LLM e dall'integrazione di più componenti software e input multimodali.
- L'articolo conduce una revisione completa della letteratura sulla sicurezza e protezione dei CUA.
- I CUA possono eseguire autonomamente compiti come navigare in applicazioni desktop, pagine web e app mobili.
- Il titolo fa riferimento a JARVIS e Ultron per contrapporre agenti AI utili a quelli dannosi.
- L'articolo è classificato come tipo di annuncio replace-cross.
Entità
Istituzioni
- arXiv