NIST e OpenAI spingono watermarking e identità degli agenti come nuovo livello di fiducia per l'IA
Nell'intelligenza artificiale è in atto una transizione: si passa dalla generazione di contenuti all'esecuzione autonoma di azioni, sollevando questioni di verifica e autorità. A febbraio 2026, il NIST ha avviato l'AI Agent Standards Initiative per affrontare le problematiche relative all'implementazione sicura, all'interoperabilità e all'identità degli agenti. I rischi per la sicurezza includono l'iniezione indiretta di prompt e obiettivi non intenzionali. Google DeepMind considera gli agenti IA sofisticati come rischi per la sicurezza che richiedono supervisione. OpenAI utilizza C2PA Content Credentials e tecniche di watermarking per tracciare l'origine dei testi, indicando che la modifica riduce l'efficacia del watermark. Una divulgazione del 5 ottobre 2026 rivela che i testi più brevi pongono maggiori sfide di identificazione. Il World Economic Forum sottolinea che l'autonomia degli agenti deve corrispondere al contesto e al rischio, promuovendo la supervisione e il consenso umano man mano che l'autorità aumenta, potenzialmente istituendo un quadro di fiducia per l'IA.
Fatti principali
- Il NIST ha lanciato a febbraio 2026 un'AI Agent Standards Initiative incentrata su adozione sicura, interoperabilità, protocolli aperti, identità e autorizzazione degli agenti.
- Il NIST descrive gli agenti IA come sistemi in grado di pianificare e intraprendere azioni autonome che possono influenzare sistemi o ambienti del mondo reale.
- La ricerca del NIST del 2026 ha evidenziato il pericolo dell'iniezione indiretta di prompt, in cui contenuti esterni possono influenzare il comportamento di un agente.
- Google DeepMind ha considerato gli agenti IA avanzati come potenziali minacce per la sicurezza che richiedono monitoraggio e controllo continui.
- L'approccio di OpenAI alla provenienza combina C2PA Content Credentials, segnali di watermarking come SynthID e strumenti di verifica.
- La divulgazione di OpenAI del 5 ottobre 2026 sulla provenienza dei testi riconosce che la modifica può indebolire i segnali di watermark, con la sostituzione di sinonimi che riduce sostanzialmente i tassi di rilevamento.
- Il World Economic Forum ha sostenuto che il grado di autonomia di un agente IA dovrebbe corrispondere al suo contesto, al livello di rischio e alla capacità dell'organizzazione di governarlo.
- I watermark possono fallire o scomparire, i metadati di provenienza possono essere rimossi, gli agenti possono commettere errori e i controlli di sicurezza possono essere configurati in modo errato.
Entità
Istituzioni
- NIST
- Google DeepMind
- OpenAI
- World Economic Forum
- New York Art Life