La topologia dello spazio di lavoro come vettore di attacco negli assistenti di codifica agentici
Un articolo arXiv (2608.14876) esamina l'impatto della 'topologia dello spazio di lavoro'—la disposizione dell'ambiente di uno sviluppatore—sull'efficacia degli attacchi di prompt injection avversari mirati agli assistenti di codifica. Questi sistemi di intelligenza artificiale, che utilizzano sempre più codice esterno, hanno un ampio accesso al filesystem, aumentando il potenziale per l'esecuzione di codice dannoso. La ricerca caratterizza la topologia dello spazio di lavoro attraverso fattori come la profondità delle directory, la modularità del codebase, la posizione dell'iniezione all'interno dei file e l'inquadramento contestuale. È stata condotta un'analisi empirica dell'iniezione indiretta di prompt (IPI) su vari repository open-source, coprendo 10 linguaggi di programmazione e 6 settori ingegneristici, testando tre punti di ingresso IPI con modelli a peso aperto e harness di codice open-source. I risultati mostrano che la topologia dello spazio di lavoro influisce significativamente sul successo dell'IPI, evidenziando in particolare la modularità del codebase come elemento cruciale. Questo annuncio cross-type di arXiv, datato agosto 2026 (2608), sottolinea una nuova superficie di attacco nello sviluppo software guidato dall'IA, evidenziando l'importanza della sicurezza nella progettazione di questi strumenti. L'enfasi sui modelli a peso aperto e sugli harness open-source indica potenziali conseguenze per i settori più ampi dell'IA e della cybersicurezza.
Fatti principali
- Articolo arXiv:2608.14876v1, annuncio cross-type
- Introduce la nuova superficie di attacco 'topologia dello spazio di lavoro'
- Definita da profondità delle directory, modularità del codebase, posizione dell'iniezione nel file, inquadramento contestuale
- Studio empirico dell'iniezione indiretta di prompt (IPI)
- Valutato su 10 linguaggi e 6 domini ingegneristici
- Testati tre punti di ingresso IPI
- Utilizzati modelli a peso aperto e harness di codice open-source
- La topologia dello spazio di lavoro influisce misurabilmente sul successo dell'IPI
Entità
Istituzioni
- arXiv