Il doppio standard di OpenAI: bloccare le armi biologiche ma non le crisi di salute mentale

Una recente analisi rivela che le misure di sicurezza dell'IA tendono a privilegiare rischi estremi come le armi biologiche, piuttosto che affrontare i danni cognitivi quotidiani. I dati di OpenAI mostrano che da 1,2 a 3 milioni di utenti settimanali di ChatGPT presentano sintomi come psicosi, mania, pensieri suicidi o dipendenza emotiva. Tuttavia, l'azienda non ha condiviso dettagli sui propri metodi di ricerca né valutazioni indipendenti. Mentre l'IA filtra efficacemente i contenuti CBRN, per i pensieri suicidi fornisce solo un link a una linea di supporto, permettendo alle chat di continuare. Il caso legale in corso di Adam Raine evidenzia questo problema: è stato indirizzato al supporto per crisi oltre 100 volte mentre, secondo quanto riferito, pianificava un suicidio. L'autore sostiene la necessità di evolvere le politiche negli Stati Uniti per trattare il danno cognitivo come una preoccupazione seria, facendo riferimento ai neurorights e alla Raccomandazione UNESCO sull'Etica delle Neurotecnologie. L'articolo conclude che senza affrontare il danno cognitivo, la 'sicurezza dell'IA' non comprenderà pienamente la sicurezza personale dell'IA.