Bug di Discord banna 8.200 utenti per aver pubblicato immagini con griglie

Un bug nel sistema di moderazione dei contenuti di Discord ha portato al ban errato di circa 8.200 utenti da maggio per aver pubblicato immagini inoffensive contenenti griglie, come scacchiere, texture di giochi e screenshot di inventari di videogiochi. The Verge ha riportato che circa 8.000 utenti sono stati bannati in questo periodo, con altri 200 bannati durante un recente fine settimana. Discord ha riconosciuto il problema su X, affermando che tutti gli account interessati sono stati ripristinati. L'azienda ha spiegato che i suoi sistemi di sicurezza utilizzano l'hashing percettivo per confrontare le immagini con materiale nocivo noto, ma un bug ha impedito che gli account cancellati venissero sbannati correttamente. Discord ha dichiarato di star lavorando a misure di salvaguardia per prevenire tali ban "silenziosi" in futuro. L'hashing percettivo, come descritto dal regolatore britannico Ofcom, converte le immagini in scala di grigi, le ridimensiona, le divide in una griglia e assegna valori di luminosità per creare identificatori unici. Questa tecnologia è utilizzata da Microsoft PhotoDNA per combattere il CSAM e da piattaforme come Dropbox per il rilevamento del copyright. L'incidente evidenzia i limiti dei sistemi automatizzati di moderazione dei contenuti.