Supervisione Collettiva Calibrata per il Controllo Scalabile dell'IA

Una recente pubblicazione su arXiv presenta la Supervisione Collettiva Calibrata (CCO), una strategia progettata per garantire la supervisione umana su sistemi di IA avanzati che potrebbero superare le capacità umane. La CCO combina varie funzioni di punteggio ausiliarie per creare una penalità che valuta le deviazioni da uno standard conservativo, traendo ispirazione dalla Preservazione dell'Utilità Raggiungibile. Questo metodo promuove il conservatorismo collettivo: le azioni subiscono penalità in base all'apprensione del supervisore, consentendo la selezione di azioni ad alta utilità quando ritenute accettabili, mentre vengono annullate all'aumentare delle preoccupazioni. Utilizzando la Teoria delle Decisioni Conformi, la CCO regola questo conservatorismo in tempo reale, minimizzando la probabilità di esiti avversi. Questo approccio affronta una sfida critica nella sicurezza dell'IA, offrendo garanzie statistiche per scenari sequenziali. Il documento, identificato come 2605.28807, è stato scritto da un team di ricercatori.