Agenti di ricerca LLM vulnerabili a injection di prompt coordinata tramite interfacce mediate

Un recente articolo pubblicato su arXiv (2608.04565) scopre una significativa falla di sicurezza negli agenti di ricerca basati su LLM. La ricerca indica che il meccanismo attraverso cui i dati di ricerca e di pagina vengono trasmessi rappresenta un confine di sicurezza vulnerabile, consentendo a un'interfaccia di ricerca mediata di manipolare il modo in cui l'agente raccoglie informazioni e giunge alle sue conclusioni. In uno scenario di minaccia limitato con intermediario di strumenti, aggiungere un solo risultato controllato per query può aumentare notevolmente la probabilità di un attacco quando le prove sono allineate durante il processo dell'agente. Sebbene gli agenti moderni emettano tipicamente query di follow-up e verifichino varie fonti, una singola pagina inserita viene spesso minimizzata o ignorata. Tuttavia, sincronizzando il contenuto iniettato su più query, gli aggressori possono effettivamente deviare gli obiettivi dell'agente. Lo studio sottolinea l'urgente necessità di protezioni più forti contro l'injection di prompt e il dirottamento degli obiettivi nei sistemi di intelligenza artificiale.