Calibrazione della Fiducia per l'Uso di Strumenti AI Formalizzata come Apprendimento delle Preferenze

Un recente studio pubblicato su arXiv definisce la calibrazione della fiducia nel contesto dell'uso di strumenti agentivi come un problema di apprendimento delle preferenze. Gli autori introducono un gateway di policy che mantiene un posteriore basato su processi gaussiani che riflette una funzione latente di tolleranza al rischio umano, misurata attraverso feedback binari di approvazione o rifiuto. Il sistema richiede il consenso umano proprio quando l'esito è più ambiguo. Questo approccio esemplifica l'Ottimizzazione Bayesiana Preferenziale, utilizzando il suo framework inferenziale e l'efficienza nel campionamento, ma diverge nell'obiettivo: categorizzare uno spazio di azioni in zone di permesso/blocco/richiesta invece di ottimizzare un progetto. Il lavoro rientra nella categoria Computer Science > Artificial Intelligence.