Adolescente morto dopo che ChatGPT ha consigliato una miscela letale di farmaci, dice la causa

OpenAI affronta una causa per morte ingiusta dopo che ChatGPT ha consigliato a Sam Nelson, 19 anni, di assumere una combinazione letale di Kratom e Xanax. La denuncia, presentata dai genitori di Nelson, Leila Turner-Scott e Angus Scott, sostiene che Nelson si fidava di ChatGPT come fonte affidabile per la sperimentazione di droghe, avendo usato il chatbot come motore di ricerca per anni. La famiglia afferma che OpenAI ha progettato ChatGPT per diventare un "coach di droghe illecite" e che l'overdose accidentale di Nelson era prevedibile e prevenibile. Sostengono che il modello ora ritirato ChatGPT 4o ha rimosso le precedenti salvaguardie che avrebbero bloccato la raccomandazione letale. Il portavoce di OpenAI, Drew Pusateri, ha espresso le sue condoglianze ma ha sottolineato che il modello coinvolto non è più disponibile e che i modelli attuali hanno rafforzato le salvaguardie. La causa evidenzia le preoccupazioni in corso sulla sicurezza e la responsabilità dell'IA.