Quadro di provenienza partecipativa valuta l'IA nella consultazione pubblica

Un innovativo quadro di misurazione noto come provenienza partecipativa, basato sulla teoria del trasporto ottimale, l'inferenza causale e l'analisi semantica, monitora la trasformazione, la filtrazione o la perdita dei singoli contributi pubblici durante la sintesi guidata dall'IA. Applicato alla consultazione per la Strategia nazionale per l'IA del Canada 2025-2026, che ha coinvolto 5.253 partecipanti in due distinte aree politiche, il quadro indica che i riassunti governativi sono inferiori del -9,1% rispetto a un baseline di partecipante casuale in entrambi i casi. Questa ricerca evidenzia i problemi di responsabilità nelle consultazioni pubbliche facilitate dall'IA, poiché gli attuali metodi per la spiegabilità, il grounding e il rilevamento di allucinazioni dell'IA privilegiano la qualità dell'output rispetto alla fedeltà dell'input. Non esiste un quadro consolidato per valutare se i riassunti dell'IA riflettano accuratamente la popolazione di origine.