Torchtune: Libreria nativa PyTorch per il post-addestramento di LLM

Torchtune è una libreria costruita specificamente per PyTorch che mira a migliorare i processi di post-addestramento dei grandi modelli linguistici (LLM), facilitando flussi di lavoro efficaci di fine-tuning, sperimentazione e distribuzione. A differenza di molte soluzioni di fine-tuning attuali che si concentrano sulla facilità d'uso, ricette su misura o ottimizzazione hardware a scapito della trasparenza e flessibilità, torchtune dà priorità a modularità, adattabilità e interazione diretta con gli elementi fondamentali di PyTorch. L'articolo delinea i principi di progettazione fondanti di torchtune, illustra la loro implementazione nei suoi costruttori di modelli, ricette di addestramento e framework di addestramento distribuito, e valuta le prestazioni della libreria in vari scenari di post-addestramento, confrontandola con noti framework di fine-tuning.