Il framework NOVA rivela i limiti fondamentali della scoperta di conoscenza nell'IA

Un nuovo articolo di ricerca introduce il framework NOVA, che modella il ciclo iterativo di auto-miglioramento dei sistemi di IA come un processo di campionamento adattivo su uno spazio di conoscenza. Lo studio identifica le condizioni in cui l'accumulo genuino di conoscenza può coprire un dominio finito e mostra come le violazioni portino a modalità di fallimento tra cui contaminazione, oblio, fallimento dell'esplorazione e fallimento dell'accettazione. Un risultato chiave è la 'trappola della contaminazione': quando la conoscenza facile da trovare si esaurisce, la massa di probabilità assegnata a nuovi artefatti validi si riduce, causando che anche piccoli tassi di falsi positivi introducano artefatti non validi più velocemente delle scoperte genuine. L'articolo chiarisce anche che la stima di Good-Turing funge da diagnostica locale della diversità dei batch, non da stimatore della massa valida storicamente non scoperta. Il lavoro è stato pubblicato su arXiv con identificatore 2605.15219.