Il Consiglio di Sorveglianza di Meta ordina la rimozione di video deepfake, definisce le salvaguardie 'fondamentalmente inadeguate'
Il Consiglio di Sorveglianza di Meta ha imposto la cancellazione di due video generati dall'IA da Facebook e ha suggerito nove modifiche alle policy per combattere i deepfake. Uno dei video mostrava il consigliere scozzese John McNally fare dichiarazioni false e incendiare sui rifugiati, inclusa una citazione inventata secondo cui i rifugiati "violentano le nostre donne". Il consiglio ha identificato incongruenze audio-visive come prova di creazione artificiale, con McNally che ha descritto l'imitazione vocale come "piuttosto traumatica". Inizialmente, Meta si era rifiutata di rimuovere il video, sostenendo che non era stato segnalato da partner affidabili. Il consiglio ha stabilito che violava le norme sulla condotta odiosa e ha criticato le misure protettive di Meta come "inadeguate". Le raccomandazioni includevano il miglioramento delle etichette di "alto rischio" e l'aumento della trasparenza. La co-presidente Pamela San Martin ha sottolineato l'abuso dei deepfake IA per colpire le donne. Meta ha 60 giorni per rispondere.
Fatti principali
- Il Consiglio di Sorveglianza di Meta ha ordinato la rimozione di due video generati dall'IA da Facebook.
- Un video mostrava falsamente un consigliere scozzese fare commenti incendiari sui rifugiati.
- Il consiglio ha citato la desincronizzazione audio-facciale come prova di generazione sintetica.
- Meta aveva inizialmente deciso di non rimuovere il video dopo che era stato segnalato.
- Il consiglio ha stabilito che il video violava le regole di Meta sulla condotta odiosa e avrebbe dovuto essere etichettato come generato dall'IA.
- Il consiglio ha descritto le salvaguardie di Meta come 'costantemente e fondamentalmente inadeguate' per i contenuti generati dall'IA.
- Sono state raccomandate nove modifiche alle policy, tra cui etichette di 'alto rischio' ampliate e schermate di avvertimento.
- La co-presidente del Consiglio di Sorveglianza Pamela San Martin ha avvertito di un modello di deepfake che molestano le donne nel discorso pubblico.
- Meta ha 60 giorni per rispondere alle raccomandazioni.
- Il Consiglio di Sorveglianza è stato istituito da Meta nel 2020; le sue decisioni sui contenuti sono vincolanti, le raccomandazioni sulle policy no.
Entità
Artisti
- Pamela San Martin
Istituzioni
- Meta
- Oversight Board
- The Guardian
- PetaPixel
Luoghi
- Scotland
- United Kingdom