Test di penetrazione rivelano debolezze di sicurezza nei sistemi di agenti AI proprietari

Uno studio recente pubblicato su arXiv (2605.27042) descrive i risultati di due test di penetrazione condotti nel 2025 su grandi sistemi di agenti AI proprietari. I risultati indicano che, man mano che i sistemi AI diventano più autonomi e capaci di eseguire azioni, il numero di vulnerabilità di sicurezza aumenta. Molti di questi problemi non sono nuovi, ma rispecchiano debolezze persistenti riscontrate nei sistemi informatici precedenti. L'articolo descrive gli agenti AI capaci di esecuzione come programmi auto-modificanti che operano su vari livelli dello stack informatico, creando significative sfide di sicurezza per gli sviluppatori. A differenza di studi precedenti incentrati su framework open-source, questa ricerca evidenzia vulnerabilità simili nei sistemi proprietari che aderiscono a standard di codifica più rigorosi, sottolineando la necessità di misure di sicurezza potenziate nello sviluppo di agenti AI.