Nodi Virtuali Indirizzabili Migliorano le Reti Neurali a Passaggio di Messaggi

Un nuovo articolo arXiv (2608.02709) propone un metodo per migliorare le reti neurali a passaggio di messaggi utilizzando nodi virtuali indirizzabili come memoria globale. L'approccio standard dei nodi virtuali comprime il grafo in un singolo stato omogeneo, il che limita la capacità. Gli autori, basandosi sull'analisi Two-Radius di Mishayev et al., identificano due requisiti: fattorizzare la memoria globale in stati indirizzabili indipendentemente scrivibili e leggibili tramite slot di attenzione incrociata indirizzabili, e preservare la molteplicità inserendo ogni query di slot come ancoraggio privato chiave/valore. Questo recupera la massa di normalizzazione e produce una rappresentazione iniettiva di multinsiemi su domini di colore limitati, consentendo il raffinamento 1-WL. Esperimenti su compiti Two-Radius sensibili alla molteplicità dimostrano l'efficacia del metodo.