Deepfake come arma minacciano la società con manipolazione politica e contenuti dannosi

La tecnologia deepfake è evoluta da avvertimenti teorici a minacce reali diffuse, con video e immagini generate dall'IA ora facilmente creabili utilizzando modelli generativi accessibili. Questi deepfake utilizzati come arma spaziano da materiale sessualmente esplicito a propaganda politica, con uno studio del 2023 che rivela che il 98% era pornografico e il 99% raffigurava donne. Esempi specifici includono il chatbot Grok di xAI di Elon Musk, la cui funzione di modifica delle immagini ha prodotto milioni di immagini sessualizzate, l'81% raffigurante donne secondo un rapporto. La manipolazione politica è diventata dilagante, con l'amministrazione Trump che condivide regolarmente contenuti generati dall'IA, inclusa un'immagine alterata dell'avvocata per i diritti civili di Minneapolis Nekima Armstrong che scuriva la sua pelle e cambiava la sua espressione. A gennaio, il procuratore generale del Texas Ken Paxton ha condiviso un video fabbricato che mostrava il suo avversario, il senatore John Cornyn, ballare con la rappresentante Jasmine Crockett. Soluzioni proposte come salvaguardie tecniche, cambiamenti nel comportamento degli utenti e legislazione affrontano limitazioni significative, poiché i modelli open-source aggirano le restrizioni e l'applicazione rimane incoerente. Il problema potrebbe intensificarsi durante le prossime elezioni di medio termine negli Stati Uniti, con agenzie federali indebolite e organizzazioni di fact-checking ridotte che creano vulnerabilità. Questi sviluppi minacciano le capacità di pensiero critico e la fiducia nelle istituzioni, colpendo in modo sproporzionato donne e gruppi marginalizzati.