Autorizzazione prima del contesto: nuovo modello di sicurezza per l'IA previene la perdita di memoria tra pubblici diversi nei sistemi agentici

Un articolo su arXiv introduce 'l'autorizzazione prima del contesto', una regola di sicurezza per gli agenti linguistici personali per fermare la perdita di memoria tra pubblici diversi. Il sistema etichetta ogni elemento memorizzato con il pubblico presente al momento della registrazione. Quando si assembla un prompt, legge l'insieme di spettatori correnti dai metadati del canale, ricadendo su 'pubblico' in caso di ambiguità. L'elemento viene ammesso solo se ogni spettatore corrente apparteneva già al suo pubblico originale. Questa regola di appartenenza anti-monotona garantisce che i partecipanti mantengano il richiamo tra canali, escludendo contenuti di pubblico ristretto da spettatori più ampi, senza affidarsi al comportamento del modello. L'articolo evidenzia la transizione memoria-contesto come una superficie d'attacco vulnerabile, inclusi canali ambigui, intrusioni tra pubblici diversi e memoria avvelenata.