Progettazione di Meccanismi per la Governance Partecipativa di Agenti IA tramite Budget di Calcolo

Uno studio recente pubblicato su arXiv (2608.06353) presenta un modello di progettazione di meccanismi strutturati volto alla governance partecipativa continua di agenti IA attivi. Questo modello si basa sull'idea che la governance dovrebbe gestire un agente IA attraverso l'allocazione delle risorse, garantendo che l'autorizzazione sia autoregolamentata tramite budget di calcolo. Il suo obiettivo è promuovere il paradigma Safe AI, affermando che il calcolo funge da potente strumento di governance. Il meccanismo funziona come un overlay di conformità o di beni comuni sul deployer. Ogni periodo di governance assomiglia a un gioco a forma estesa, in cui stakeholder umani verificati si uniscono in sequenza per influenzare un mercato per la fornitura o il rifiuto utilizzando una valuta di governance intenzionalmente separata dal calcolo dell'agente. Un aggregatore di finanziamenti trasforma i contributi iniziali in supporti effettivi ponderati per ampiezza, mentre un gate a due soglie con isteresi traduce il supporto netto in autorizzazione binaria, vincolato da un tetto di sicurezza certificato. Questo documento è stato annunciato come cross-type ed è accessibile su arXiv.