La ricerca sull'IA rivela la fragilità degli equilibri cooperativi nei sistemi di apprendimento multi-agente

Uno studio pubblicato su arXiv (ID: 2604.15695v1) esamina come gli equilibri cooperativi diventino instabili quando più agenti di IA apprendono simultaneamente in ambienti non stazionari. La ricerca dimostra che gli approcci di apprendimento standard risk-neutral rendono gli equilibri cooperativi esponenzialmente instabili, causando un collasso irreversibile una volta che il rumore dei partner supera la soglia critica di cooperazione di un gioco. Questa instabilità si verifica perché i passi di gradiente di ciascun agente spostano la distribuzione delle azioni dei loro partner, trasformando i partner cooperativi in fonti di rumore stocastico proprio dove le decisioni di cooperazione sono più sensibili. Lo studio analizza come questo rumore di co-apprendimento si propaga attraverso le strutture dei giochi di coordinamento. I ricercatori hanno scoperto che applicare la robustezza distributiva per proteggersi dall'incertezza dei partner peggiora effettivamente i risultati, poiché gli obiettivi di rendimento avversi al rischio penalizzano le azioni cooperative ad alta varianza rispetto alle strategie di defezione. Anche gli equilibri cooperativi fortemente Pareto-dominanti si rivelano fragili in queste condizioni. Il documento è stato annunciato come abstract interdisciplinare sul server di preprint arXiv.