Liquid AI rilascia LFM2.5-Encoders per inferenza rapida a contesto lungo su CPU

Liquid AI ha presentato gli LFM2.5-Encoders, una serie di modelli di elaborazione del linguaggio naturale progettati per l'inferenza rapida a contesto lungo su CPU. La gamma include LFM2.5-Encoder-230M e LFM2.5-Encoder-350M, entrambi in grado di gestire un contesto di 8.192 token e basati sull'architettura LFM2. Utilizzano maschere di attenzione bidirezionale insieme a un modello linguistico mascherato al 30%. Il processo di addestramento incorpora adattamenti sia a contesto breve (1.024 token) che a contesto lungo. Nelle valutazioni benchmark, LFM2.5-Encoder-350M si è classificato al quarto posto tra 14 modelli su GLUE e SuperGLUE, mentre LFM2.5-Encoder-230M ha superato ModernBERT-base. In particolare, LFM2.5-Encoder-230M è il più veloce su tutte le lunghezze di sequenza su CPU. Liquid AI fornisce demo per vari usi, con modelli accessibili su Hugging Face per il fine-tuning.