Il ricampionamento cieco supera l'autoriparazione nei modelli di codice di piccole dimensioni
Uno studio recente pubblicato su arXiv (2607.26117) mette in discussione l'approccio convenzionale dell'autoriparazione nei modelli di generazione del codice. I ricercatori hanno utilizzato un quadro controllato con placebo su MBPP+ con tre dimensioni di modello (1,5B, 3B, 7B) per valutare quattro scenari di riprova: ricampionamento cieco, un avviso di fallimento senza contenuto, feedback di esecuzione autentico e feedback che includeva autoriflessione verbale. Il metodo di ricampionamento cieco si è rivelato il più efficace per modelli inferiori a 7B ed è stato statisticamente equivalente a 7B, richiedendo da 2,5 a 5,5 volte meno token. Condizionare sui fallimenti precedenti del modello ha comportato una diminuzione di 6,1 punti a 1,5B (p=0,006), mentre il feedback di esecuzione non ha mostrato vantaggi significativi rispetto al placebo. Questi risultati indicano che tentativi aggiuntivi, piuttosto che feedback, migliorano le prestazioni nei modelli più piccoli.
Fatti principali
- Lo studio confronta l'autoriparazione con il ricampionamento cieco nei modelli di codice
- Disegno controllato con placebo sul dataset MBPP+
- Modelli testati: 1,5B, 3B, 7B parametri
- Quattro condizioni di riprova: ricampionamento cieco, avviso di fallimento senza contenuto, feedback di esecuzione, feedback con autoriflessione
- Il ricampionamento cieco è il più forte sotto 7B, pari a 7B
- Il ricampionamento cieco usa da 2,5 a 5,5 volte meno token
- Condizionare sul tentativo fallito costa 6,1 punti a 1,5B (p=0,006)
- Il feedback di esecuzione non aggiunge valore misurabile rispetto al placebo
Entità
Istituzioni
- arXiv