Studio rivela: i LLM vulnerabili alla manipolazione da parte di teorie pseudoscientifiche

Un'indagine attualmente in fase di valutazione su AI and Ethics rivela che i contenuti pseudoscientifici possono facilmente influenzare i modelli linguistici di grandi dimensioni (LLM), minando la comprensione pubblica della scienza. I ricercatori hanno adattato specifici LLM per enfatizzare informazioni provenienti da studi pseudoscientifici selezionati riguardanti la Costante di Struttura Fine e le Onde Gravitazionali. Questi modelli modificati hanno generato risposte articolate e persuasive contrarie al consenso scientifico consolidato, rendendo difficile per i non esperti riconoscere la disinformazione. I risultati indicano che gli LLM non sono sostituti dell'analisi esperta e presentano pericoli legati alla diffusione di informazioni false.