Uomo di Singapore traumatizzato da falsi post familiari generati dall'IA usando le sue foto

Un uomo di Singapore, identificato con lo pseudonimo Luke, è stato traumatizzato dopo aver scoperto che un'ex compagna di scuola aveva usato le sue foto dai social media per generare con l'IA una finta vita familiare. La donna ha creato post raffiguranti Luke come suo partner e padre dei suoi figli, utilizzando immagini dal profilo di Luke e dei figli di sua sorella. Le immagini generate dall'IA alteravano i vestiti di Luke e aggiungevano un bambino, parzialmente oscurato da occhiali da sole emoji per maggiore realismo. La sorella di Luke è stata avvisata da un'amica e ha tentato di contattare la donna senza risposta. Dopo settimane, Luke ha riconosciuto la donna come un'ex compagna di scuola di 15 anni prima, con cui aveva scambiato solo due frasi. La vita inventata dalla donna includeva foto di appuntamenti, ritratti familiari e immagini di gravidanza. Dopo l'esposizione pubblica su Threads, altri hanno segnalato che la donna impersonava Luke tramite profili falsi. Luke e sua sorella hanno reso privati i loro social media, e Luke sta richiedendo un ordine di protezione ai sensi del Singapore's Harassment Act. L'incidente evidenzia i rischi dell'abuso dell'IA per il furto d'identità e la manipolazione emotiva.