Attacchi di Iniezione di Prompt Fisici su Robot Controllati da VLM: Uno Studio Sistematico

Un recente preprint su arXiv (2608.05715) descrive in dettaglio un esame completo degli attacchi di iniezione di prompt fisici mirati a robot gestiti da modelli visione-linguaggio (VLM). Lo studio classifica gli attacchi in quattro tipi: segnaletica indiretta, impersonificazione dell'autorità, ridefinizione del compito e iniezione di conflitto, supportati da un benchmark di 20 prompt di attacco distinti. Questi prompt sono stati testati in tre diverse configurazioni di scena fisica e tre variazioni di formulazione dei comandi, che differiscono per specificità e chiarezza delle regole. In oltre 5.670 prove che hanno coinvolto tre VLM leader (GPT-4o, Gemini 2.5 Flash, Qwen3-VL-32B), i tassi di successo degli attacchi sono stati registrati al 27,0% e al 29,4%, con un terzo tasso non specificato. Questa ricerca rivela una nuova vulnerabilità in cui testo avversario nel campo visivo di un robot può fungere da iniezione di prompt indiretta nel ragionamento del VLM, sollevando preoccupazioni sulla sicurezza e l'affidabilità dei sistemi autonomi. I risultati sottolineano l'urgente necessità di difese robuste nella pianificazione robotica guidata da VLM, specialmente mentre queste tecnologie vengono sempre più utilizzate in scenari pratici. Questo articolo è accessibile su arXiv ed è stato segnalato come una sottomissione di tipo incrociato.