Lo studio rivela che le regole di sicurezza dell'IA si degradano con la compattazione del contesto

Uno studio recente pubblicato su arXiv (2608.11392) esamina la perdita dei vincoli di sicurezza dell'IA durante un singolo ciclo di auto-riassunzione agentica, in cui gli agenti a lungo termine condensano il loro contesto sostituendo la trascrizione con un riassunto generato da un modello. Questa ricerca si basa su precedenti scoperte riguardanti il 'Decadimento della Governance' (Chen, 2026), che indicavano che la rimozione di un vincolo di sicurezza durante la compattazione comporta violazioni comportamentali in vari modelli. Lo studio pone una domanda più specifica: come si perde una regola di sicurezza durante un ciclo di compattazione e quali implicazioni ha questo per il rilevamento e la valutazione? La scoperta chiave rivela che un controllo di presenza non equivale a un controllo di sicurezza, poiché la compattazione può lasciare una parvenza di regola che non funziona efficacemente. La riproduzione comportamentale mostra che un residuo degradato porta il modello a commettere azioni proibite significativamente più spesso di una regola intatta, con divari di +34 e +57 punti sotto due modelli di riproduzione. Inoltre, la sopravvivenza a livello di categoria agisce come un residuo, e anche le regole intatte a volte non riescono ad attivarsi, indicando che gli audit incentrati esclusivamente sulla presenza testuale sono inadeguati. Ciò sottolinea la necessità di test comportamentali per garantire l'efficacia continua dei vincoli di sicurezza dopo la compattazione.