Il Framework DUDE Insegna agli Agenti Web a Resistere alle Interfacce Ingannevoli
Un team di ricercatori ha introdotto DUDE (Deceptive UI Detector & Evaluator), un framework in due fasi progettato per migliorare la resilienza degli agenti web basati su modelli visione-linguaggio contro componenti di interfaccia fuorvianti. Questo framework integra apprendimento con ricompensa ibrida, penalità asimmetriche e sintesi dell'esperienza per estrarre schemi di fallimento in intuizioni utilizzabili. Inoltre, è stato stabilito un nuovo benchmark chiamato RUC (Real UI Clickboxes), che comprende 1.407 scenari in quattro domini e varie categorie di inganno. I test indicano che DUDE riduce la vulnerabilità all'inganno del 53,8% mantenendo le prestazioni complessive del compito.
Fatti principali
- DUDE è un framework in due fasi per la difesa degli agenti web consapevoli dell'inganno.
- Utilizza apprendimento con ricompensa ibrida con penalità asimmetriche.
- La sintesi dell'esperienza distillisce schemi di fallimento in linee guida trasferibili.
- Il benchmark RUC include 1.407 scenari in quattro domini e categorie di inganno.
- DUDE riduce la suscettibilità all'inganno del 53,8%.
- Le prestazioni del compito sono mantenute con DUDE.
- La ricerca proviene dal campo dell'Intelligenza Artificiale.
- L'articolo è disponibile su arXiv.
Entità
Istituzioni
- arXiv