Un'indagine tra esperti rivela le barriere alla ricerca umana nella sicurezza e nell'etica dell'IA

Un nuovo studio pubblicato su arXiv (ID: 2608.05656) indaga il sotto-utilizzo della ricerca empirica umana nel campo della Sicurezza e dell'Etica dell'IA (AISE). La ricerca, condotta tramite un sondaggio tra esperti con 93 partecipanti e interviste approfondite con 17 esperti, esplora perché i metodi tecnici come i benchmark di modelli e le simulazioni LLM sono preferiti rispetto agli studi che coinvolgono soggetti umani. I risultati indicano che, sebbene vi sia un ampio consenso sul valore della ricerca umana per generare prove, la sua adozione è ostacolata da problemi di validità percepita, vincoli di risorse, preferenze metodologiche epistemiche e personali, e limitazioni infrastrutturali all'interno della comunità di ricerca. In particolare, i ricercatori con formazione tecnica tendono a sottovalutare la ricerca umana e a collaborare meno attraverso i confini disciplinari. Lo studio include prospettive di esperti nei campi Tecnico, Socio-tecnico, Governance e Normativo, evidenziando un divario significativo nell'accettazione degli approcci incentrati sull'uomo nella valutazione della sicurezza dell'IA.