Annunci Meta con Immagini di Abusi Sessuali su Minori Generate dall'IA Trovati sulle Piattaforme

È stato scoperto che Meta ha pubblicato più di 50 annunci contenenti immagini di abusi sessuali su minori generate dall'IA sulle sue piattaforme, tra cui Facebook, Instagram, Messenger e Threads. Gli annunci, identificati tramite i dati della libreria pubblicitaria di Meta, includevano sia immagini che video, e alcuni sono stati pubblicati fino a questa settimana. Questo incidente solleva serie preoccupazioni sull'efficacia dei sistemi di moderazione dei contenuti di Meta nel rilevare e prevenire la diffusione di contenuti dannosi generati dall'IA. La scoperta sottolinea la crescente sfida che le immagini generate dall'IA pongono alla sicurezza online, poiché tali contenuti possono bypassare i metodi di rilevamento tradizionali. Meta non ha ancora commentato pubblicamente gli annunci specifici, ma l'azienda ha precedentemente dichiarato il suo impegno a rimuovere tali contenuti e a investire in strumenti di rilevamento dell'IA. La presenza di questi annunci sulle principali piattaforme di social media evidenzia l'urgente necessità di salvaguardie più robuste e di una supervisione normativa nel campo dei contenuti generati dall'IA.