Studio Quantifica i Costi di Affidabilità dell'Adattamento di Dominio in Modelli Linguistici di Piccole Dimensioni

Uno studio empirico identificato come arXiv:2608.00042 presenta la prima analisi sistematica dei costi di affidabilità legati all'adattamento di dominio in modelli linguistici di piccole dimensioni (SLM) attraverso vari domini e architetture. Questa ricerca ha coinvolto tre architetture SLM—TinyLlama 1B, Gemma-2 2B e Llama 3.2 1B—esaminando tre settori (sanità, legale, finanza), due tipi di dati di addestramento (benigni e alterati avversariamente) e quattro approcci di fine-tuning (LoRA baseline, Safety-DPO, Dark Experience Replay e Task Arithmetic LoRA). Lo studio valuta come questi fattori influenzino la calibrazione fattuale e la resilienza avversaria. I risultati indicano che, sebbene il fine-tuning migliori le prestazioni, comporta costi significativi in termini di affidabilità, che variano a seconda dell'architettura, del dominio e del metodo. Le implicazioni sottolineano l'equilibrio tra prestazioni e affidabilità in settori critici. L'articolo è disponibile su arXiv con l'identificatore 2608.00042.