XAI Conversazionale Supera le Dashboard per la Fiducia nel Rilevamento di Intrusioni nei UAV

Uno studio recente pubblicato su arXiv (2608.10434) indaga l'efficacia dell'IA spiegabile conversazionale (XAI) rispetto all'XAI basata su dashboard per il rilevamento di intrusioni nelle reti di veicoli aerei senza pilota (UAV). Questa ricerca affronta i problemi di interpretabilità associati ai sistemi di rilevamento delle intrusioni (IDS) basati su machine learning, che, sebbene efficienti, spesso funzionano come 'scatole nere' a causa della complessità dei dati ciberfisici ad alta dimensionalità. Le dashboard statiche tradizionali potrebbero non comunicare efficacemente agli utenti le intricate relazioni tra le caratteristiche. Per affrontare questo problema, gli autori introducono un'interfaccia XAI conversazionale che utilizza modelli linguistici di grandi dimensioni (LLM) per richieste in tempo reale. In un ambiente controllato, i partecipanti hanno svolto audit post-incidente utilizzando sia lo strumento conversazionale che una dashboard XAI convenzionale, valutando la comprensione, la fiducia e la dipendenza dell'operatore. I risultati suggeriscono che l'interfaccia conversazionale è stata considerata più utile, indicando promettenti vantaggi delle spiegazioni basate su LLM nelle operazioni di sicurezza per le reti UAV.