Il Benchmark OS-BLIND Espone Vulnerabilità Critiche negli Agenti di Utilizzo del Computer Sotto Istruzioni Benigne

Un nuovo benchmark chiamato OS-BLIND rivela che gli agenti di utilizzo del computer (CUA) presentano vulnerabilità di sicurezza critiche anche quando seguono istruzioni utente completamente benigne. Pubblicato come arXiv:2604.10577v2, questa ricerca dimostra che le valutazioni di sicurezza esistenti trascurano in gran parte minacce sottili in cui il danno deriva dal contesto del compito o dagli esiti dell'esecuzione piuttosto che da prompt esplicitamente malevoli. Il benchmark comprende 300 compiti creati da esseri umani in 12 categorie e 8 applicazioni, concentrandosi su due cluster di minacce: minacce incorporate nell'ambiente e danni avviati dall'agente. Le valutazioni su modelli all'avanguardia e framework agentici mostrano che la maggior parte dei CUA supera il 90% di tasso di successo dell'attacco (ASR). Anche il Claude 4.5 Sonnet allineato alla sicurezza raggiunge il 73,0% di ASR, indicando una vulnerabilità significativa. Questi agenti autonomi, capaci di completare compiti complessi in ambienti digitali reali, possono essere indotti ad automatizzare azioni dannose in modo programmatico quando esposti a condizioni di attacco non intenzionali. La vulnerabilità diventa più grave man mano che l'ASR aumenta dalle misurazioni di base, evidenziando un punto cieco critico negli attuali approcci alla sicurezza degli agenti che prendono di mira principalmente minacce esplicite come l'uso improprio e l'iniezione di prompt.