Nanbeige4.2-3B: Un Modello Compatto da 3B per Compiti Agentici

Un team di ricercatori ha presentato Nanbeige4.2-3B, un modello agentico generale compatto con 3 miliardi di parametri non di embedding. Il modello è stato pre-addestrato da zero utilizzando un'architettura Looped Transformer su 28 trilioni di token, consentendo una maggiore capacità senza parametri aggiuntivi. Eccelle in vari compiti, tra cui code-agent, office-agent e uso complesso di strumenti, mostrando anche forti capacità di ragionamento in matematica, programmazione e scienze. Per migliorare i dati di supervised fine-tuning (SFT) e la costruzione di traiettorie, i ricercatori hanno ampliato la diversità degli ambienti eseguibili e delle risorse dei compiti attraverso applicazioni reali e sintesi su larga scala. La loro pipeline di reinforcement learning (RL) incorpora RLHF a modalità mista, RL di ragionamento a lunghezza controllata e RL agentico, portando a prestazioni migliorate e tassi di fallimento ridotti. Valutazioni complete confermano l'efficacia del modello.