Scienziati AI affrontano ostacoli fondamentali per la scoperta autonoma
Un nuovo position paper da arXiv (2605.08956) sostiene che gli scienziati AI agentici non sono progettati per la scoperta scientifica autonoma, nonostante funzionino come co-scienziati. Gli autori identificano quattro sfide chiave: la selezione dei problemi soffre della fallacia di McNamara; i modelli linguistici di grandi dimensioni (LLM) mancano di conoscenza procedurale tacita e di conoscenza degli errori derivante dalla pratica di laboratorio; l'ottimizzazione delle preferenze durante il post-addestramento riduce la diversità dell'output verso il consenso; e i benchmark scientifici si concentrano sulla previsione a turno singolo senza feedback da esperimenti fisici. Questi problemi richiedono di riconsiderare le scelte progettuali fondamentali, non solo il ridimensionamento o l'impalcatura.
Fatti principali
- Il paper sostiene che gli scienziati AI agentici non sono progettati per la scoperta autonoma
- Identificate quattro sfide: fallacia di McNamara, mancanza di conoscenza tacita, compressione della diversità, mancanza di feedback sperimentale
- Gli LLM omettono la conoscenza procedurale e degli errori dalla pratica di laboratorio
- L'ottimizzazione delle preferenze post-addestramento comprime la diversità dell'output
- I benchmark mancano di feedback da esperimenti fisici
- Le sfide richiedono di riconsiderare le scelte progettuali, non solo il ridimensionamento
- Il paper è un position paper da arXiv
- Pubblicato sotto il tipo di annuncio 'new'
Entità
Istituzioni
- arXiv