Un professore della Drexel avverte del "rischio latente" mentre l'IA erode le competenze di supervisione umana
Un professore della Drexel University avverte che le organizzazioni che si affidano al proprio personale per identificare gli errori dell'IA potrebbero trascurare competenze vitali. Questo "rischio latente" indica che una ridotta partecipazione al processo decisionale potrebbe lasciare i dipendenti impreparati ad agire. Questa idea affonda le radici negli studi sull'automazione, compresi quelli che esaminano il bias di automazione e il "problema delle prestazioni fuori dal ciclo". Oltre quattro decenni fa, la psicologa cognitiva Lisanne Bainbridge evidenziò simili "ironie dell'automazione". In risposta, Deloitte sta ristrutturando la formazione post-laurea in revisione contabile attraverso simulazioni per migliorare le capacità di giudizio. Il professore sottolinea che la responsabilità non si è evoluta di pari passo con l'influenza dell'IA, chiedendo una governance adattiva. Le organizzazioni dovrebbero valutare regolarmente la dinamica uomo-IA e garantire il mantenimento delle competenze essenziali, sostenendo i casi in cui i dipendenti prendono decisioni indipendentemente dalle indicazioni dell'IA.
Fatti principali
- L'autore è professore di sistemi informativi gestionali e direttore accademico del Center for Applied AI & Business Analytics della Drexel University
- "Rischio latente" descrive la possibilità che le persone perdano capacità che le loro organizzazioni si aspettano ancora che esercitino
- La psicologa cognitiva Lisanne Bainbridge descrisse le "ironie dell'automazione" più di quattro decenni fa
- Il "problema delle prestazioni fuori dal ciclo" si riferisce al fatto che le persone diventano meno preparate a intervenire man mano che si riduce il loro coinvolgimento in un compito
- Deloitte sta ridisegnando la formazione post-laurea in revisione contabile con simulazioni, poiché l'IA si assume il lavoro manuale tradizionalmente svolto dai revisori junior
- L'autore sostiene che autorità, responsabilità e capacità possono iniziare a separarsi quando l'IA assume più decisioni
- Le metriche di accuratezza e produttività possono apparire buone anche mentre il ruolo umano in un processo cambia
- Un test proposto consiste nel chiedere occasionalmente ai dipendenti di prendere una decisione senza prima vedere la raccomandazione dell'IA
Entità
Artisti
- Lisanne Bainbridge
Istituzioni
- Drexel University
- Center for Applied AI & Business Analytics
- Deloitte
- The Conversation
Luoghi
- Philadelphia
- United States