Robot controllati da LLM vulnerabili ad attacchi di denial-of-service semantico

Uno studio recente indica che i robot controllati da grandi modelli linguistici (LLM) presentano una vulnerabilità a causa della loro aderenza ai protocolli di sicurezza. Un attaccante può sfruttare questa vulnerabilità inserendo brevi frasi dal suono sicuro (1-5 token) nell'input audio del robot, causando l'interruzione o la cessazione delle operazioni da parte della logica di sicurezza del modello, senza bisogno di bypassare le protezioni del modello. Questo tipo di attacco denial-of-service semantico porta il robot a fermarsi, poiché le frasi iniettate assomigliano a avvisi validi. L'indagine ha valutato quattro modelli visione-linguaggio, sette difese a livello di prompt e tre configurazioni di deployment, inclusi sia iniezioni singole che multiple. I risultati rivelano che le difese basate solo su prompt compromettono tra la mitigazione degli attacchi e la risposta a pericoli reali. Mentre le difese più efficaci riducono il successo degli attacchi di arresto forzato in alcuni modelli, esse trasformano semplicemente l'interruzione in cicli di riconoscimento e falsi allarmi.