Editoria non-fiction vulnerabile alle allucinazioni dell'IA mentre il fact-checking resta raro

L'industria editoriale della non-fiction è particolarmente vulnerabile agli errori generati dall'IA perché gli editori hanno da tempo trascurato il fact-checking, secondo un'indagine di New York Magazine. Il libro di Steven Rosenbaum 'The Future of Truth: How AI Reshapes Reality' è diventato un caso emblematico quando il New York Times ha riportato a maggio che conteneva più di mezza dozzina di citazioni false o attribuite erroneamente, apparentemente generate dall'IA. Rosenbaum, imprenditore dei media, ha riconosciuto di aver usato strumenti di IA per la ricerca ma ha insistito sul fatto che non abbia mai scritto una pagina. Il suo editore, Simon & Schuster, ha subito imbarazzo mentre lo scandalo ha rivelato come l'IA possa minare la credibilità della non-fiction. Contrattualmente, gli editori non sono obbligati a fare fact-checking, ha detto Paul Bogaards, ex dirigente Knopf. Assumere un revisore esterno costa tra 7.000 e 10.000 dollari per libro, spesso superando l'anticipo dell'autore. L'agente letterario Alia Hanna Habib ha notato che gli editori mancano di sistemi per affrontare l'abuso dell'IA. Editori e agenti sospettano che i contenuti generati dall'IA siano già dilaganti, con un editor senior che ha segnalato errori frequenti. Strumenti di rilevamento dell'IA come Pangram affermano una precisione del 99,98% ma rischiano falsi positivi. I contratti di solito richiedono agli autori di garantire l'originalità, ma la maggior parte manca di linguaggio specifico sull'IA. Il libro di Rosenbaum ha subito tre cicli di correzione bozze ma nessun fact-checking; da allora ha assunto due fact-checker per un'edizione rivista. L'industria non ha uno standard sull'uso accettabile dell'IA e gli editori resistono a spendere per soluzioni.