Le Affermazioni sulla Sicurezza dell'IA per la Salute Mentale Devono Preservare le Prove Temporali

Un recente studio pubblicato su arXiv evidenzia significative lacune nelle attuali valutazioni della sicurezza dell'IA in ambito di salute mentale, principalmente a causa della loro attenzione a scale temporali inappropriate. I ricercatori sostengono che i fallimenti con rilevanza clinica—come escalation ritardata, formazione di dipendenza e deterioramento graduale—sono influenzati dalla sequenza e dall'accumulo delle interazioni, non solo da risposte isolate. Propongono il concetto di Non-Identificabilità della Sicurezza Temporale, che chiarisce perché le proprietà di sicurezza basate su tempistiche e sequenze non possano essere validate attraverso protocolli che trascurano questi aspetti. Per affrontare questo problema, introducono SCOPE (Safety Claims Over Preserved Evidence), un framework progettato per allineare le affermazioni di sicurezza con le prove conservate nelle valutazioni. Il documento è disponibile su arXiv con ID 2605.08827.