Quadro di Delega Bilevel Sicura per Sistemi Multi-Agente con IA

Un nuovo quadro formale chiamato Safe Bilevel Delegation (SBD) è stato sviluppato dai ricercatori per migliorare la sicurezza della delega in tempo reale all'interno di sistemi multi-agente gerarchici che utilizzano modelli linguistici di grandi dimensioni (LLM). Questo quadro affronta il problema significativo di assegnare in modo sicuro sotto-compiti a sotto-agenti specializzati in scenari critici. A differenza dei metodi attuali che enfatizzano le scelte architetturali in fase di progettazione o offrono intuizioni empiriche generali, SBD adatta dinamicamente il bilanciamento sicurezza-efficienza man mano che il contesto del compito evolve durante l'esecuzione. Tratta la delega dei compiti come una sfida di ottimizzazione bilevel, dove una rete di meta-pesi esterna determina i pesi sicurezza-efficienza specifici del contesto, e un ciclo interno perfeziona la politica di delega sotto un vincolo probabilistico di sicurezza. Il grado di delega è gestito in modo continuo per dettare l'estensione dell'autorità decisionale concessa a ciascun sotto-agente. Questa ricerca è documentata in un articolo su arXiv con l'identificatore 2604.27358.