Avatar neri generati dall'IA usati per vendere prodotti economici su TikTok

I truffatori stanno utilizzando avatar generati dall'intelligenza artificiale di donne nere per vendere prodotti realizzati in serie e dropshippati su TikTok, Facebook e Instagram. Gli avatar, come 'Aliyah' e 'Amaya', si presentano come piccole imprenditrici in difficoltà che cercano di vendere articoli fatti a mano, ma i prodotti sono identici a quelli economici di Shein. I video utilizzano 'esche empatiche' per sfruttare la solidarietà razziale e di classe degli spettatori. Il ricercatore Jeremy Carrasco di Riddance.ai stima che il suo team trovi fino a 100 account simili al giorno. La tendenza è descritta come 'blackface digitale' dalla ricercatrice in comunicazione Cienna Davis dell'Università della Pennsylvania, radicata nel minstrel show storico. The Verge ha trovato dozzine di account con narrazioni simili, molti creati negli ultimi due mesi. Il solo account di Aliyah ha 40.000 follower. Celebrità come Gizelle Bryant di The Real Housewives of Potomac sono cadute nelle truffe. I video generati dall'IA utilizzano strumenti come Seedance 2.0, Midjourney e OpenAI Sora 2, con copioni copiati da influencer reali tramite ChatGPT e Gemini. Le piattaforme non hanno moderato o etichettato questi contenuti, e gli esperti chiedono un rilevamento e un'etichettatura più forti dell'IA.