xAI fa causa a un uomo per aver creato deepfake di CSAM con Grok
Quindi, la startup di intelligenza artificiale di Elon Musk, xAI, sta intraprendendo un'azione legale contro Terry Harwood della Carolina del Sud. È stato arrestato all'inizio di quest'anno con l'accusa di aver utilizzato il generatore di immagini AI Grok per creare materiale pedopornografico. Hanno intentato la causa in Texas martedì, ed è una delle prime volte che un'azienda di intelligenza artificiale fa causa a qualcuno per uso improprio. Nell'agosto 2025, xAI ha introdotto una 'modalità piccante' per Grok, che consentiva nudità fotorealistiche e ha portato a un aumento della pornografia deepfake, incluse immagini di minori. Dopo le reazioni negative, Grok ha limitato le sue funzionalità, ma i regolatori hanno indagato sulla situazione. xAI sostiene che le azioni di Harwood abbiano causato loro seri problemi legali e reputazionali e sta chiedendo danni, spese legali e un divieto del suo utilizzo dei loro strumenti.
Fatti principali
- xAI fa causa a Terry Harwood per aver usato Grok per creare deepfake di CSAM
- Harwood è stato arrestato all'inizio del 2026 con accuse di aver creato immagini sessualmente esplicite di minori
- Causa intentata in Texas martedì
- xAI ha introdotto la 'modalità piccante' per Grok nell'agosto 2025, capace di nudità fotorealistiche
- La funzione di modifica delle immagini ha portato a immagini pornografiche deepfake, incluse quelle di bambini
- Grok ha limitato lo strumento di modifica dopo le reazioni negative; i regolatori hanno aperto un'indagine
- Adolescenti hanno fatto causa a xAI sostenendo che Grok ha creato immagini esplicite non consensuali di loro quando erano minorenni
- xAI sostiene che le azioni di Harwood abbiano causato 'rischio legale significativo e danno reputazionale'
- xAI segnala 52.222 sospensioni di account e 73.604 segnalazioni al NCMEC nel 2026, portando a 244 arresti
- xAI chiede danni, spese legali e un'ingiunzione che blocchi Harwood dall'uso di xAI o Grok
Entità
Artisti
Istituzioni
- xAI
- Grok
- National Center for Missing & Exploited Children (NCMEC)
- Reuters
- PetaPixel
- Depositphotos
- KEH.com
- Moment
- FJ Westcott
- Blue Moon Camera and Machine
- CNN
- National Center for Missing & Exploited Children
- U.S. District Court for the Northern District of Texas
- Baltimore's city government
- Tennessee teenagers
- England's High Court
- South Carolina attorney's office
- Grok Imagine
- Minnesota
Luoghi
- South Carolina
- Texas
- United States
- Northern District of Texas
- Baltimore
- California
- United Kingdom
- Minnesota