Hugging Face Sviluppa un'Abilità AI per Convertire Modelli Transformers nel Framework MLX

Hugging Face ha creato un'Abilità alimentata dall'intelligenza artificiale per aiutare a trasferire modelli linguistici dalla libreria transformers a mlx-lm, con l'obiettivo di rendere i modelli disponibili su MLX poco dopo il loro arrivo in transformers. Lo strumento assiste i contributori gestendo attività di scaffolding come la ricerca di varianti di modelli sull'Hub, il download dei checkpoint e la configurazione di installazioni modificabili. Esegue anche complesse attività di modellazione, prestando attenzione a dettagli architetturali come le configurazioni RoPE e verificando aree sensibili. Per i revisori, l'Abilità produce PR che seguono le convenzioni di mlx-lm e includono rapporti completi con esempi di generazione, confronti numerici e analisi per strato. L'approccio affronta le sfide poste dagli agenti di codice, che dal 2026 hanno aumentato di dieci volte il volume delle PR, spesso tralasciando contratti di progettazione impliciti in codebase come transformers. La libreria transformers, con centinaia di contributori e oltre un miliardo di download, dà priorità a codice leggibile con gerarchie piatte. L'Abilità è stata sviluppata utilizzando Claude Code e testata trasferendo modelli come GLM 4.7, incorporando gli insegnamenti di contributori come @gabegoodhart. Include un'infrastruttura di test non agentica separata per riproducibilità e trasparenza. Le attuali limitazioni includono la gestione di utilità condivise in mlx-lm, modelli visione-linguaggio in mlx-vlm e caricamenti di modelli quantizzati. Il progetto riconosce Apple per l'open-sourcing di MLX e la comunità per i contributi.