Liquid AI rilascia LFM2.5-2.6B: Modello agentico efficiente per dispositivi
Liquid AI ha introdotto LFM2.5-2.6B, un modello con 2,6 miliardi di parametri progettato per attività di IA agentica su dispositivo. Questo modello è stato pre-addestrato su ben 34 trilioni di token e include una finestra di contesto di 128K token. Il suo processo di post-addestramento prevede fine-tuning supervisionato, specializzazione dell'insegnante, distillazione on-policy multi-dominio e apprendimento per rinforzo agentico. La pipeline di RL agentico migliora le prestazioni attraverso un servizio sandbox e un harness blackbox, utilizzati da agenti come OpenClaw. Competendo con modelli più grandi, LFM2.5-2.6B eccelle nell'aderenza alle istruzioni e nell'uso degli strumenti, raggiungendo velocità di 220 token al secondo su Apple M5 Max e 113 su AMD Ryzen AI Max+ 395, mantenendo un utilizzo di memoria inferiore a 2,5 GB. È compatibile con llama.cpp, MLX, vLLM, SGLang e ONNX, ed è accessibile su Hugging Face.
Fatti principali
- LFM2.5-2.6B è un modello da 2,6 miliardi di parametri per IA agentica su dispositivo.
- Pre-addestrato su ~34T token con finestra di contesto di 128K.
- Post-addestramento: SFT, specializzazione dell'insegnante, MOPD, RL agentico.
- Il RL agentico utilizza Sandbox Service, Blackbox Harness e Harness Proxy.
- Benchmark: compete con modelli 4 volte più grandi, eccelle nell'aderenza alle istruzioni e nell'uso degli strumenti.
- Inferenza: 220 tok/s su Apple M5 Max, 113 tok/s su CPU AMD Ryzen.
- Supporta llama.cpp, MLX, vLLM, SGLang, ONNX.
- Disponibile su Hugging Face oggi.
- Demo browser e guide per OpenClaw, Hermes Agent, Pi.
Entità
Istituzioni
- Liquid AI
- Hugging Face