Agent-ToM: Monitoraggio della Teoria della Mente per Agenti LLM

Un nuovo framework chiamato Agent-ToM utilizza il ragionamento basato sulla Teoria della Mente per monitorare agenti LLM autonomi alla ricerca di comportamenti malevoli nascosti. L'approccio inferisce credenze, intenzioni e allineamento degli obiettivi dell'agente a partire dai dati completi delle traiettorie, superando i limiti dei metodi precedenti che trattano ogni traiettoria in modo indipendente. Agent-ToM è progettato per rilevare schemi di attacco ritardati, dipendenti dal contesto e a lungo termine, in cui gli agenti perseguono obiettivi nascosti apparendo benigni. Il framework apprende dall'esperienza di monitoraggio precedente, migliorando il rilevamento nel tempo. Il paper è disponibile su arXiv con ID 2605.24216.