Nuovo Protocollo Previene il Falso Consenso nei Sistemi di Intelligenza Artificiale Multi-Agente

Un nuovo protocollo denominato Preregistered Belief Revision Contracts (PBRC) è stato presentato per affrontare i problemi di conformità nei sistemi deliberativi multi-agente. Questi sistemi facilitano lo scambio di messaggi e l'aggiornamento delle credenze tra gli agenti, ma tali interazioni possono portare a una conformità dannosa, in cui fattori come l'accordo o l'influenza della maggioranza vengono scambiati per prove valide, risultando in un consenso fuorviante. Il protocollo PBRC distingue tra comunicazione aperta e modifiche epistemiche consentite utilizzando un sistema che stabilisce pubblicamente trigger di evidenza di primo ordine, operatori di revisione, una regola di priorità e una politica di fallback. Per convalidare un passaggio non di fallback, deve fare riferimento a un trigger preregistrato e presentare un insieme non vuoto di token di evidenza verificati esternamente. Ciò garantisce che tutte le alterazioni significative delle credenze siano sia applicabili che verificabili. Il protocollo è dettagliato in un articolo su arXiv, identificatore 2604.15558v1, segnandolo come nuova ricerca mirata a migliorare le prestazioni dei sistemi multi-agente contenendo il falso consenso preservando i vantaggi del discorso deliberativo.