IMMENSE: Metodo AI per Rilevare Utenti Malintenzionati sui Social Media

Una nuova tecnica di apprendimento automatico chiamata IMMENSE è stata sviluppata per rilevare utenti dannosi sui social media che condividono messaggi discriminatori, pieni di odio e violenti. Questo approccio, descritto in un articolo disponibile su arXiv (arXiv:2608.05259), impiega un modello di classificazione ibrido che combina tre dimensioni: la semantica dei contenuti condivisi dagli utenti, le loro connessioni sociali e i loro dati geografici. Utilizzando questa strategia completa, si prevede che l'accuratezza della classificazione superi quella dei metodi tradizionali basati solo sul testo. La necessità di tali sistemi è evidenziata dalla vastità delle attuali reti sociali e dalla suscettibilità degli utenti più giovani a contenuti dannosi, che possono portare a problemi psicologici e sociali. Questo metodo mira a supportare le forze dell'ordine (LEA) nell'individuare e gestire gli utenti che diffondono materiale dannoso.