DeepSeek rende open source DeepInfer, il framework di inferenza dietro i suoi servizi AI in produzione

DeepSeek ha rilasciato DeepInfer come open source, secondo una dichiarazione pubblicata nel repository GitHub del progetto. Il framework di inferenza è lo stesso software che alimenta i servizi su larga scala in produzione dell'azienda, il che significa che il livello infrastrutturale che serve i suoi modelli AI su larga scala è ora disponibile pubblicamente. L'annuncio è stato riportato da Quartz. Il rilascio colloca DeepSeek tra gli sviluppatori di AI che pubblicano gli strumenti di serving e deployment alla base dei propri modelli anziché mantenerli proprietari. Nel materiale di origine non sono stati divulgati termini di licenza, benchmark di prestazioni né una tempistica di rilascio oltre alla dichiarazione su GitHub.