La Teoria dei Giochi Suggerisce che l'Interesse Personale Potrebbe Guidare una Moratoria Globale sull'IA Superintelligente
Un nuovo articolo su arXiv utilizza la teoria dei giochi per sostenere che una moratoria sull'Intelligenza Artificiale Superintelligente (ASI) può allinearsi con l'interesse nazionale, contrariamente alle opinioni prevalenti. Modellando le interazioni strategiche tra superpotenze geopolitiche, gli autori analizzano il compromesso tra i benefici della supremazia tecnologica e i rischi catastrofici di un'ASI incontrollata. L'analisi mostra che quando il costo percepito della perdita di controllo aumenta sufficientemente, diventa razionale per ogni stato imporre una moratoria. Prove empiriche indicano che la percezione globale del rischio ASI è in aumento, rendendo una moratoria stabile e razionale più plausibile nell'attuale panorama geopolitico.
Fatti principali
- L'articolo usa la teoria dei giochi per sostenere una moratoria sull'ASI basata sull'interesse personale.
- Modella le interazioni strategiche tra superpotenze geopolitiche.
- Compromesso tra supremazia tecnologica e rischi catastrofici di un'ASI incontrollata.
- La moratoria diventa razionale quando il costo percepito della perdita di controllo è elevato.
- Prove empiriche mostrano un aumento della percezione globale del rischio ASI.
- Pubblicato su arXiv sotto Computer Science > Computers and Society.
- Contrario all'opinione prevalente che una moratoria sia contro l'interesse personale.
- Una moratoria stabile e razionale è sempre più plausibile nell'attuale panorama geopolitico.
Entità
Istituzioni
- arXiv