Soglia di Collasso dell'Autogioco AI Identificata in uno Studio sulla Capacità Decisionale

Un nuovo studio su arXiv ha individuato un limite strutturale cruciale nel processo decisionale che può portare al collasso nell'apprendimento per rinforzo tramite autogioco. I ricercatori hanno scoperto che se tutte le decisioni che consentono risultati positivi vengono eliminate, il sistema si sposta rapidamente verso un risultato prevedibile, causando un fallimento quasi completo. È interessante notare che mantenere anche solo uno di quei punti decisionali positivi può evitare questo collasso. Questo fenomeno è stato osservato in vari giochi, come poker, giochi a matrice, un gioco di dadi e molteplici algoritmi di apprendimento. Ulteriori analisi suggeriscono che questo effetto deriva dalla co-adaptazione sotto vincoli, non da disturbi. Lo studio evidenzia una soglia critica nella capacità decisionale, con importanti implicazioni per la sicurezza dell'IA e la comprensione dei comportamenti nei sistemi multi-agente.