Meta pubblica annunci per l'app di IA Kromix che crea nudi deepfake di politiche donne
Recentemente, Meta Platforms ha promosso Kromix, un'applicazione di intelligenza artificiale che crea immagini intime non consensuali, nonostante le proprie regole contro i contenuti sessuali negli annunci pubblicitari. I video promozionali affermavano 'nessuna restrizione' e mostravano 'tutti i personaggi sono persone reali', incluso uno che ritraeva una donna somigliante a una nota politica statunitense in un contesto sessualmente esplicito. Kromix, in precedenza disponibile sull'App Store di Apple fino a quando WIRED ha chiesto una dichiarazione, si presenta come uno 'stilista di immagini AI' e consente agli utenti paganti di inviare immagini per scenari come 'stupro in camera da letto' e 'amore Disney'. Inoltre, offre video adulti generati dall'IA di donne in costumi da Spider-Man. Le richieste di commento inviate a un contatto associato all'app non hanno ricevuto risposta. Questo episodio evidenzia un'altra mancanza da parte di Meta nella prevenzione di strumenti deepfake sessuali sulle sue piattaforme.
Fatti principali
- Le piattaforme Meta hanno pubblicato annunci per Kromix, uno strumento di generazione di pornografia con IA.
- Gli annunci sembravano incoraggiare la creazione di video deepfake che somigliavano a politiche statunitensi.
- Ciò viola le policy di Meta contro gli annunci contenenti materiale sessuale.
- Kromix si definisce uno 'stilista di immagini AI'.
- Un voice-over negli annunci promuove lo strumento come 'senza restrizioni' e dice 'tutti i personaggi sono persone reali'.
- Un annuncio mostrava una donna somigliante a un'importante politica statunitense, per poi passare a un video pornografico con lo stesso volto.
- L'app era ospitata sull'App Store di Apple prima della richiesta di commento da parte di WIRED.
- L'app invita gli utenti paganti a caricare foto per scenari tra cui 'stupro in camera da letto' e 'amore Disney'.
- I video nell'app includono anche pornografia generata dall'IA di donne in costume da Spider-Man.
- Le richieste di commento inviate al contatto dell'app sono rimaste senza risposta.
Entità
Istituzioni
- Meta Platforms
- Kromix
- Apple
- WIRED
Luoghi
- United States