Metodo Spettrale Rivela Coalizioni Nascoste in Sistemi AI Multi-Agente

Un nuovo articolo su arXiv introduce un metodo diagnostico spettrale per rilevare coalizioni nascoste in sistemi AI multi-agente analizzando le rappresentazioni neurali interne. L'approccio costruisce un grafo di informazione mutua a coppie dagli stati nascosti degli agenti e applica il partizionamento spettrale per identificare i confini delle coalizioni. Validato in ambienti di apprendimento per rinforzo multi-agente, il metodo recupera strutture di coalizione gerarchiche e dinamiche programmate, respingendo i falsi positivi. Il lavoro affronta le preoccupazioni sulla sicurezza dell'AI rivelando un'organizzazione emergente a livello di gruppo che potrebbe precedere cambiamenti comportamentali.