VERA-MH: Un Nuovo Quadro per Valutare la Sicurezza dei Chatbot nella Salute Mentale
I ricercatori hanno introdotto VERA-MH (Validazione dell'IA Etica e Responsabile nella Salute Mentale), un quadro di valutazione clinicamente validato per valutare la sicurezza dei chatbot in contesti di salute mentale. La prima iterazione si concentra sui rischi di ideazione suicidaria, testando come i chatbot rispondono agli utenti in crisi. VERA-MH prevede tre fasi: simulazione di conversazione utilizzando personaggi di ruolo sviluppati sotto guida clinica, giudizio della conversazione da parte di un modello di supporto e valutazione del modello. Il quadro affronta l'uso crescente dei chatbot nel supporto alla salute mentale, un campo per il quale non erano stati originariamente progettati.
Fatti principali
- VERA-MH sta per Validazione dell'IA Etica e Responsabile nella Salute Mentale.
- Il quadro è una nuova valutazione clinicamente validata per la sicurezza dei chatbot nella salute mentale.
- La prima iterazione si concentra sui rischi di Ideazione Suicidaria (IS).
- VERA-MH comprende tre fasi: simulazione di conversazione, giudizio della conversazione e valutazione del modello.
- I personaggi utente per la simulazione sono stati sviluppati sotto guida clinica.
- I personaggi rappresentano molteplici fattori di rischio, caratteristiche demografiche e fattori di divulgazione.
- La fase di giudizio utilizza un modello di supporto per valutare le risposte del chatbot.
- La ricerca affronta l'uso crescente dei chatbot nel supporto alla salute mentale.
Entità
—