Magnet: Rilevamento dell'Uso Improprio dell'IA tra Sessioni tramite Accumulo di Capacità

Un nuovo preprint arXiv (2608.02518) introduce Magnet, un framework progettato per rilevare l'uso improprio dell'IA tra sessioni, un modello di minaccia in cui gli attaccanti scompongono obiettivi dannosi in sotto-attività innocue eseguite in sessioni agentiche isolate. Gli autori sostengono che mentre la maggior parte dei sistemi di rilevamento degli abusi dell'IA si concentra su attacchi a turno singolo o multi-turno (singola sessione), questo approccio trascura l'asimmetria in cui l'IA è senza stato tra conversazioni ma l'attaccante non lo è, consentendo l'elusione. L'articolo dimostra la scomposizione degli obiettivi tra sessioni come una tecnica di elusione efficace, potenzialmente in grado di suscitare capacità più dannose rispetto ad attacchi equivalenti in una singola sessione. Il lavoro affronta una lacuna critica nella sicurezza dell'IA, proponendo un metodo di rilevamento basato sull'accumulo di capacità tra sessioni. Il preprint è stato annunciato su arXiv con l'identificatore 2608.02518.