Audit incentrati sull'utente necessari per i sistemi di IA generativa personalizzati

Un nuovo position paper sostiene che gli attuali metodi di audit per i sistemi di IA generativa non riescono a rilevare i danni che emergono in contesti personalizzati. Il documento, disponibile su arXiv (2608.14692), afferma che gli approcci esistenti si basano su valutazioni statiche e simulate e su definizioni aggregate di danno, che sono inadeguate per sistemi che si adattano ai singoli utenti nel tempo. Gli autori identificano tre presupposti errati: i danni possono essere specificati al di fuori dell'interazione nel mondo reale, definiti in modo non pluralistico all'interno dei gruppi e trattati come statici. Propongono che l'audit debba avvenire a livello di interazione, concentrandosi su valutazioni incentrate sull'utente che catturino i danni emergenti che si evolvono con la storia dell'utente. Il documento suggerisce che i sistemi personalizzati potrebbero potenzialmente apprendere definizioni di danno attraverso interazioni ripetute, ma sottolinea la necessità di nuovi paradigmi di audit. Questo lavoro contribuisce al discorso in corso su responsabilità e sicurezza dell'IA, in particolare mentre l'IA generativa diventa sempre più integrata nelle applicazioni quotidiane.