Modelli Linguistici Piccoli vs. LLM per il QA Multi-turn nel Servizio Clienti

Un nuovo studio valuta i Small Language Models (SLM) ottimizzati tramite istruzioni per il question answering multi-turn nel servizio clienti, confrontandoli con i Large Language Models (LLM). La ricerca utilizza una strategia di riepilogo della cronologia per preservare il contesto conversazionale e introduce un'analisi qualitativa basata sulle fasi della conversazione. Nove SLM a bassa parametrizzazione vengono testati contro tre LLM commerciali. I risultati mirano a determinare se gli SLM possano gestire efficacemente il QA multi-turn con riepilogo del contesto in ambienti con risorse limitate, offrendo un'alternativa più efficiente ai LLM computazionalmente costosi.