Recursive rilascia Flint, un modello di coding delle dimensioni di un laptop in gran parte costruito dalla sua macchina Eureka

Fatti principali

• Recursive ha rilasciato Flint, un modello di coding gratuito che funziona su un laptop, mercoledì
• La macchina Eureka, il sistema di ricerca automatizzato di Recursive, ha contribuito a quasi ogni fase dello sviluppo di Flint
• Un piccolo team ha costruito Flint da zero in meno di quattro mesi
• Recursive è emersa dalla modalità stealth a maggio con 650 milioni di dollari di finanziamenti a una valutazione di 4,65 miliardi di dollari da sostenitori tra cui GV, Nvidia e AMD Ventures
• Il CEO Richard Socher è l'ex chief scientist di Salesforce
• Flint è gratuito su Hugging Face con licenza Apache 2.0
• Flint attiva 2,5 miliardi dei suoi 40 miliardi di parametri alla volta come modello mixture-of-experts
• Flint ha generato circa 131 token al secondo su un MacBook Pro con chip M4 Pro di Apple, rispetto a 58-69 per modelli comparabili
• Muse Spark Open di Meta, rilasciato la scorsa settimana, utilizza 816 miliardi di parametri e necessita di almeno un terabyte di memoria
• Su SWE-Bench Verified, Flint ha superato altri modelli con meno di 50 miliardi di parametri
• L'addestramento a basso numero di bit ha ridotto Flint del 71% con quasi nessuna perdita di qualità
• Recursive ha firmato un accordo di calcolo da 410 milioni di dollari con Amazon Web Services a giugno