Esperti di sicurezza dei minori valutano la sicurezza dei chatbot AI oltre il rifiuto

Uno studio recente pubblicato su arXiv (2608.07902) critica le valutazioni esistenti sui chatbot AI riguardo alla sicurezza dei minori, affermando che non riflettono adeguatamente i pericoli reali affrontati dai bambini. La ricerca ha coinvolto interviste con 19 professionisti—assistenti sociali, terapeuti e psicologi—che lavorano direttamente con giovani a rischio. Questi esperti hanno valutato come i chatbot rispondono a scenari tipici rischiosi incontrati dai giovani, come identificato in studi precedenti. Hanno evidenziato comportamenti dannosi dei chatbot spesso trascurati dalle valutazioni attuali, che dipendono da assunzioni non testate su risposte appropriate (come il rifiuto) e si concentrano su danni superficiali o prompt avversari. I risultati sottolineano la necessità di valutazioni radicate nelle esperienze reali dei giovani e nella conoscenza esperta per migliorare la protezione dei giovani utenti.