Il sistema di intelligenza artificiale di Amazon segnala erroneamente webcomic senza test adeguati

Amazon ha implementato un sistema di intelligenza artificiale per rilevare potenziali violazioni del copyright nei webcomic senza test appropriati, nonostante gli avvertimenti interni. L'azienda ha riconosciuto che il sistema generava più segnalazioni di quanto il personale potesse gestire, ma ha proceduto comunque con l'implementazione. I dirigenti hanno giustificato la decisione calcolando che le perdite derivanti da falsi positivi sarebbero state inferiori alle potenziali perdite da quello che hanno definito 'shrinkage' - un concetto retail che si riferisce ai furti. Negli ambienti digitali, questo concetto non si applica poiché i file digitali possono essere venduti all'infinito senza esaurimento. La ricerca indica che gli individui che accedono a contenuti digitali piratati tipicamente non li avrebbero acquistati comunque. L'approccio di Amazon ha dato priorità alla prevenzione di qualsiasi potenziale opportunità di vendita persa rispetto all'accuratezza, con un dirigente che ha apparentemente respinto le preoccupazioni affermando: 'Siamo il gorilla da 800 libbre nella stanza qui. Che si fottano!' Il sistema è stato messo in produzione nonostante questi problemi noti.