Deliberazione multi-stakeholder sui rischi dell'IA nella polizia

Uno studio recente pubblicato su arXiv (2608.05418) descrive i risultati di un workshop che ha coinvolto vari stakeholder per discutere l'implementazione dell'IA nelle forze dell'ordine, in particolare per quanto riguarda il pregiudizio razziale. L'evento ha riunito 30 rappresentanti della comunità, funzionari delle forze dell'ordine e studiosi per valutare i potenziali rischi associati a 13 applicazioni di IA nella polizia. In generale, i partecipanti hanno mostrato una volontà di adottare l'IA, rifiutando apertamente solo tre applicazioni, in particolare la valutazione del rischio di recidiva, con preoccupazioni incentrate sulle sue assunzioni di base piuttosto che sulla sua esecuzione. I risultati indicano che enfatizzare l'equità razziale ha ampliato, piuttosto che limitato, il dialogo, portando a domande essenziali sull'efficacia dello strumento, sui suoi reali vantaggi e se tali vantaggi sarebbero universalmente accessibili. La ricerca sottolinea la necessità di coinvolgere le comunità colpite nelle decisioni riguardanti l'adozione dell'IA, dati i riconosciuti rischi di pregiudizio razziale. Il workshop mirava ad affrontare in modo collaborativo i confini del rischio nell'IA per la polizia attraverso discussioni inclusive tra partecipanti diversi.