Soro: LLM specializzato per il tagico supera Gemma 3 nei benchmark locali

Un team di ricercatori ha presentato Soro, una serie di modelli linguistici conversazionali di grandi dimensioni (LLM) adattati alla lingua tagica, che ha avuto una rappresentanza limitata nell'IA. Questi modelli sono costruiti a partire dai checkpoint open-weight di Gemma 3 e subiscono un pre-addestramento continuo esclusivamente in tagico, utilizzando un corpus meticolosamente curato di 1,9 miliardi di token che include contenuti web filtrati, file PDF e materiali educativi allineati ai programmi di studio. Segue un addestramento supervisionato con 40.000 esempi modellati su insegnanti tagici. Per valutarne l'efficacia, i ricercatori hanno sviluppato una raccolta di benchmark tagici incentrati su conoscenze generali, competenze linguistiche ed esami di ammissione accademica, disponibili su Hugging Face. Soro supera significativamente i modelli Gemma 3 equivalenti in questi benchmark, mantenendo al contempo prestazioni robuste in inglese su dataset standard. I modelli sono ottimizzati per l'uso pratico in Tagikistan, considerando i vincoli di calcolo e connettività, con miglioramenti tramite quantizzazione FP8 e INT4.