Humanwashing: La Falsa Promessa del Controllo Umano nell'IA

Un recente studio pubblicato su arXiv sostiene che il termine 'human in the loop' viene associato in modo fuorviante alla sicurezza nei quadri decisionali dell'IA. Gli autori sostengono che, sebbene la supervisione umana sia spesso proposta come soluzione a problemi come pregiudizi, discriminazione, disinformazione, manipolazione, responsabilità e trasparenza, manca un'analisi approfondita delle sue reali implicazioni. L'applicazione incauta della metafora del ciclo offusca sia i processi che i risultati, portando a un 'humanwashing'—simile al 'greenwashing', dove la terminologia viene usata più per favorire un senso di sicurezza che per garantirla. L'articolo solleva dubbi sul fatto che questa metafora migliori la comprensione di ciò che è necessario e realizzato in specifici scenari decisionali, suggerendo che spesso viene applicata in modo inappropriato nei sistemi attuali.