Presunzione dell'IA nell'aggiudicazione dell'assicurazione contro la disoccupazione

Un nuovo studio di arXiv introduce un quadro per affrontare la presunzione dell'IA—la tendenza dei sistemi a fornire risposte sicure nonostante la mancanza di informazioni sufficienti—in contesti legali, in particolare nell'aggiudicazione dell'assicurazione contro la disoccupazione. In collaborazione con il Dipartimento del Lavoro e dell'Occupazione del Colorado, i ricercatori hanno ottenuto un raro accesso ai materiali formativi ufficiali per progettare un benchmark che varia sistematicamente la completezza delle informazioni. Hanno valutato quattro piattaforme IA leader, scoprendo che gli approcci standard basati su RAG non riescono a gestire adeguatamente i casi che richiedono accertamenti aggiuntivi, un collo di bottiglia critico che colpisce milioni di richiedenti ogni anno. Lo studio propone un quadro decisionale che impara quando rimandare il giudizio, con l'obiettivo di migliorare l'affidabilità dell'IA nelle decisioni legali ad alto rischio.