Attacco Backdoor Sfrutta il Ranking nella Pianificazione del Modello del Mondo

Un nuovo studio da arXiv (2605.01950) rivela che i modelli del mondo, che utilizzano l'immaginazione interna per la pianificazione a lungo termine, sono vulnerabili a un nuovo attacco backdoor chiamato TRAP. A differenza degli attacchi tradizionali che mirano a caratteristiche locali o previsioni a un passo, TRAP sfrutta la struttura di ranking a coda lunga delle traiettorie immaginate. Interrompendo l'ordinamento di poche traiettorie critiche per le decisioni, l'attacco può dirottare sistematicamente la pianificazione. Questa vulnerabilità è distinta perché le dinamiche apprese dei modelli del mondo e i processi di pianificazione possono assorbire perturbazioni superficiali, rendendoli resistenti ai metodi backdoor convenzionali. La ricerca evidenzia un nuovo rischio di sicurezza negli agenti AI che si affidano ai modelli del mondo per il processo decisionale.