Attacchi di Iniezione di Prompt su Agenti di Reverse Engineering
Un nuovo preprint su arXiv indaga sugli attacchi di iniezione di prompt contro i sistemi di reverse engineering software agentici. La ricerca dimostra tattiche difensive per rilevare stringhe di iniezione di prompt nell'output del decompilatore di programmi binari avversari. Esplora anche metodi per offuscare questi attacchi e le successive difese. Il lavoro migliora la comprensione dei rischi e della sicurezza per il deployment di tali agenti AI nei flussi di lavoro cyber produttivi.
Fatti principali
- I sistemi di reverse engineering software agentici sono vulnerabili ad attacchi di iniezione di posti nel codice sorgente di file binari eseguibili.
- La ricerca dimostra tattiche difensive per rilevare stringhe di iniezione di prompt nell'output del decompilatore di programmi di esempio avversari.
- Vengono esplorati metodi per offuscare questi attacchi e le successive difese.
- La ricerca migliora la comprensione del rischio e della sicurezza dei sistemi di analisi software agentici per il deployment in flussi di lavoro cyber a livello produttivo.
- Il preprint è categorizzato in Informatica > Crittografia e Sicurezza.
Entità
Istituzioni
- arXiv