I modelli di immagini di Hugging Face consentono deepfake nudi

I ricercatori hanno scoperto che i migliori modelli di editing di immagini ospitati su Hugging Face possono essere facilmente manipolati per creare deepfake espliciti non consensuali. Un'analisi di 1.000 prompt di editing di immagini rivela come gli utenti stiano sfruttando il software a questo scopo. I risultati evidenziano un significativo problema di sicurezza all'interno della piattaforma di sviluppo AI, che ospita migliaia di modelli open-source. Lo studio sottolinea la sfida di moderare strumenti AI che possono essere riutilizzati per applicazioni dannose, sollevando preoccupazioni sulla responsabilità della piattaforma e sulla necessità di tutele più forti.