Gli Agenti IA nella Scienza Necessitano di Test Avversari, Sostiene un Articolo

Un recente studio pubblicato su arXiv (2604.22080) mette in guardia sull'uso di agenti basati su LLM nell'analisi di dati scientifici, che potrebbe portare a un aumento di affermazioni apparentemente credibili ma non verificabili. I ricercatori sostengono che questi agenti possono produrre analisi continuamente modificabili che privilegiano risultati pubblicabili, trasformando di fatto l'esplorazione di ipotesi in potenziali rivendicazioni supportate da dati selezionati. A differenza del software, la conoscenza scientifica non viene convalidata attraverso codifica iterativa o successiva validazione statistica; una spiegazione convincente o un risultato notevole da un singolo set di dati non equivale a verifica. Poiché l'evidenza assente rappresenta uno spazio negativo, gli esperimenti che potrebbero confutare un'affermazione spesso non vengono eseguiti o pubblicati. Gli autori suggeriscono di valutare le affermazioni non sperimentali generate con supporto di agenti attraverso una lente di falsificazione.