La sorveglianza dell'AI emotiva si insinua negli uffici dei colletti bianchi
L'AI emotiva, software che afferma di analizzare le emozioni umane attraverso espressioni facciali, tono della voce e testo, viene sempre più implementata nei luoghi di lavoro, dai call center e autotrasporti agli uffici dei colletti bianchi. Aziende come MorphCast, Imentiv e Aware offrono strumenti che monitorano sentimenti, attenzione e personalità, spesso senza consenso esplicito. La tecnologia è utilizzata da McDonald's, MetLife, Burger King e altri per valutare le prestazioni e la produttività dei lavoratori. I critici, tra cui la psicologa Lisa Feldman Barrett e la professoressa della Cornell Karen Levy, sostengono che la scienza è imperfetta: le emozioni sono altamente variabili e dipendenti dal contesto, e l'AI spesso interpreta male le espressioni, rafforzando i pregiudizi. Una causa del 2025 dell'ACLU contro HireVue evidenzia i rischi di discriminazione. L'UE ha vietato l'AI emotiva sul lavoro tranne che per motivi medici o di sicurezza, ma il mercato globale dovrebbe triplicare a 9 miliardi di dollari entro il 2030. La pandemia e il lavoro a distanza hanno accelerato l'adozione, mentre la legge federale statunitense concede ai datori di lavoro ampi permessi di sorveglianza. L'articolo mette in guardia da un futuro in cui i lavoratori devono mostrare costante allegria per gli algoritmi, erodendo dignità e autonomia.
Fatti principali
- MorphCast offre un'app AI gratuita che afferma di analizzare le emozioni in tempo reale durante le riunioni.
- McDonald's ha utilizzato MorphCast in una campagna in Portogallo per scansionare i volti e offrire coupon basati sull'umore.
- MetLife utilizza l'AI emotiva per monitorare il tono e l'intonazione degli agenti del call center.
- Burger King sta sperimentando un chatbot AI di nome Patty nelle cuffie dei dipendenti per valutare la cordialità.
- L'UE ha vietato l'AI emotiva sul lavoro nel 2023, tranne che per motivi medici o di sicurezza.
- MorphCast si è trasferita da Firenze alla Bay Area a causa delle normative UE.
- Il mercato globale dell'AI emotiva dovrebbe triplicare a 9 miliardi di dollari entro il 2030.
- Una causa del 2025 dell'ACLU sostiene che l'AI di HireVue ha negato una promozione a un dipendente sordo a causa della mancanza di sottotitoli.
- La ricerca mostra che l'AI interpreta i volti neri come più arrabbiati di quelli bianchi (Lauren Rhue, 2018).
- La teoria delle sei emozioni di base dello psicologo Paul Ekman è ampiamente contestata come eccessivamente semplicistica.
Entità
Istituzioni
- MorphCast
- McDonald's
- MetLife
- Burger King
- Imentiv
- Aware
- Microsoft
- Azure
- Slack
- Framery
- L'Oreal
- HireVue
- Ikea
- Regeneron
- Children's Hospital of Philadelphia
- Intuit
- UnitedHealth Group
- First Horizon Bank
- Cornell University
- Wake Forest University
- ACLU
- European Union
- New York Times
- The Atlantic
Luoghi
- Florence
- Italy
- Bay Area
- United States
- Portugal
- Europe