Sorveglianza AI sul posto di lavoro: Bossware distopico e l'erosione della dignità
In un'analisi di Lynn Parramore per l'Institute for New Economic Thinking, condivisa su Naked Capitalism, viene esaminato l'impatto della sorveglianza basata sull'IA sul posto di lavoro, spesso chiamata 'bossware', sui lavoratori sia manuali che impiegatizi. Questa tecnologia monitora l'attività dello schermo, la produttività e le reazioni emotive attraverso l'IA emotiva. Strumenti come 'Aware' valutano il coinvolgimento su piattaforme come Slack, Teams e Zoom, mentre il task mining cattura le interazioni digitali. Sebbene commercializzata come mezzo per migliorare l'efficienza, questa sorveglianza aumenta l'ansia e influisce negativamente sulla salute senza migliorare le prestazioni. Rivela anche pregiudizi contro donne, anziani, persone neurodiverse e minoranze, potenzialmente aiutando a reprimere i sindacati. Le violazioni dei dati, come l'incidente WorkComposer che ha rivelato 21 milioni di screenshot, aumentano la vulnerabilità. L'articolo contrappone l'AI Act e il GDPR dell'UE alle protezioni inadeguate degli Stati Uniti, chiedendo sindacati più forti e un diritto all'indeterminatezza.
Fatti principali
- Lynn Parramore è Senior Research Analyst presso l'Institute for New Economic Thinking.
- Il bossware include strumenti che tracciano il comportamento e sistemi che prendono decisioni automatizzate.
- I sistemi di monitoraggio AI come 'Aware' scansionano Slack, Teams e Zoom per coinvolgimento e comportamenti a rischio.
- L'IA emotiva interpreta espressioni facciali, movimenti oculari e postura per dedurre le emozioni.
- I ricercatori dell'Università del Western Ontario avvertono che l'IA non può produrre verità di base sulle emozioni umane.
- La sorveglianza AI è di parte contro donne, dipendenti anziani, lavoratori neurodiversi e persone di colore.
- JPMorgan Chase traccia i movimenti digitali dei giovani banchieri per individuare il 'troppo lavoro', presentandolo come benessere.
- WorkComposer ha lasciato esposti oltre 21 milioni di screenshot dei dipendenti in un bucket Amazon S3 non protetto.
- L'Artificial Intelligence Act dell'UE tratta l'IA sul posto di lavoro come ad alto rischio, richiedendo documentazione e supervisione umana.
- Gli Stati Uniti mancano di leggi complete per la gestione algoritmica, basandosi su un insieme frammentario di leggi sul lavoro e sulla privacy.
Entità
Artisti
- Franz Kafka
Istituzioni
- Institute for New Economic Thinking
- Naked Capitalism
- JPMorgan Chase
- Amazon
- Boston University
- University of Western Ontario
- University of Bremen
- University of Modena
- Wells Fargo
- Starbucks
- Washington Center for Equitable Growth
- European Union
- California Consumer Privacy Act (CCPA)
Luoghi
- United States
- European Union
- California