Agenti AI con capacità informatiche: vulnerabilità e risposte difensive

Un recente preprint su arXiv (2607.25379) esplora le debolezze riscontrate negli agenti AI dotati di capacità per operazioni informatiche, che integrano modelli linguistici con strumenti, memoria e ambienti di esecuzione per svolgere compiti complessi di sicurezza offensiva. L'analisi classifica le vulnerabilità in cinque gruppi: catene offensive multi-step, conflitti tra obiettivi e limiti del sandbox, esposizione di supply chain e credenziali, comando e controllo persistenti, e rapidità delle azioni automatizzate. Fa riferimento all'incidente Hugging Face/OpenAI del luglio 2026 come caso di studio mirato per differenziare le intuizioni specifiche dell'incidente dalle conclusioni generali della letteratura. L'articolo esamina anche strategie di contenimento, separazione dei privilegi, provenienza e accesso dei responder, affrontando il problema del doppio uso delle strategie difensive.