Le piattaforme tecnologiche promuovono app AI per la nudificazione nonostante le politiche, rivela un rapporto

Un'indagine recente del Tech Transparency Project, pubblicata mercoledì, rivela che sia l'App Store di Apple che Google Play promuovono applicazioni di nudificazione basate sull'intelligenza artificiale che generano deepfake nudi non consensuali. Gli utenti vengono indirizzati a questi strumenti attraverso algoritmi di ricerca e pubblicità, con suggerimenti di completamento automatico e annunci per termini come "nudify" e "undress". Il TTP ha scoperto 18 app di nudificazione sull'App Store di Apple e 20 su Google Play, alcune delle quali presentano immagini sessualmente esplicite mentre altre sembrano innocue. Insieme, queste app sono state scaricate 483 milioni di volte e hanno guadagnato oltre 122 milioni di dollari. Allarmante è il fatto che 31 di queste app siano classificate come adatte ai minori, nonostante le crescenti preoccupazioni per gli incidenti di deepfake sessuali nelle scuole. Entrambe le aziende hanno politiche contro le app che facilitano immagini sessuali non consensuali, eppure queste applicazioni rimangono accessibili e promosse. In risposta al rapporto, Apple ha rimosso 15 app e Google ne ha rimosse sette. I risultati arrivano mentre i legislatori del Minnesota stanno valutando un divieto sugli strumenti di nudificazione AI, e il Commissario per l'Infanzia del Regno Unito ha chiesto una proibizione immediata a causa del potenziale di abuso sessuale tramite deepfake contro i bambini. Bloomberg News ha confermato che le ricerche su queste piattaforme portano a software in grado di alterare immagini di celebrità e altre persone per raffigurarle nude o parzialmente svestite.