Strumento Agente Auto-Verificante Dissocia la Deriva di Impegno dalla Deriva di Vincolo negli Agenti a Lungo Orizzonte
Un recente articolo su arXiv (2608.04066) presenta un nuovo strumento agente volto alla verifica strutturale di agenti a lungo orizzonte, affrontando il problema dei resoconti auto-generati inaffidabili. Questo strumento incorpora un Esecutore deterministico che mantiene tutte le credenze, mentre un modello linguistico è limitato a presentare proposte tipizzate. Le affermazioni vengono accettate solo quando le previsioni pre-registrate corrispondono alle osservazioni tramite codice. Il sistema squalifica le esecuzioni se le soglie di errore di scrittura per organo, dimensione di rendering o eco di canarino salato vengono superate; in particolare, quattro delle prime otto esecuzioni di architettura sono state squalificate, ciascuna individuando un difetto reale. Un riferimento ombra invisibile al rendering compila il piano che il sistema completo avrebbe eseguito in ogni cella di ablazione, consentendo metriche di deriva anche quando il meccanismo testato è assente. L'articolo si conclude con un risultato chiaro e singolare utilizzando questo strumento, separando la deriva di impegno dalla deriva di vincolo, evidenziando la sua importanza per la sicurezza dell'IA e la verifica di sistemi autonomi.
Fatti principali
- Articolo arXiv:2608.04066, annunciato come nuovo, tipo: nuovo.
- Lo strumento utilizza un Esecutore deterministico che possiede tutte le credenze.
- Il modello linguistico presenta solo proposte tipizzate.
- Le affermazioni vengono ammesse solo quando le previsioni pre-registrate corrispondono alle osservazioni tramite codice.
- Quattro delle prime otto esecuzioni di architettura sono state invalidate, ciascuna localizzando un difetto reale.
- I trigger di invalidazione includono errori di scrittura per organo, dimensione di rendering e soglie minime di eco di canarino salato.
- Un riferimento ombra invisibile al rendering compila il piano per ogni cella di ablazione.
- Lo strumento dissocia la deriva di impegno dalla deriva di vincolo negli agenti a lungo orizzonte.
Entità
Istituzioni
- arXiv