La distribuzione t di Student migliora le prestazioni delle reti neurali bayesiane

Un nuovo preprint su arXiv (2607.25376) studia l'impatto della scelta della distribuzione di verosimiglianza sulle reti neurali bayesiane (BNN). Mentre l'inferenza variazionale con il lower bound dell'evidenza (ELBO) è standard, la maggior parte delle implementazioni assume distribuzioni gaussiane per priori, posteriori e verosimiglianza. Gli autori sostengono che questa assunzione può causare una specificazione errata del modello. Propongono l'uso di una distribuzione t di Student per la verosimiglianza, che ha code più pesanti e può gestire meglio gli outlier. Gli esperimenti mostrano che questa alternativa migliora le prestazioni predittive e la quantificazione dell'incertezza su diversi benchmark. Il lavoro colma una lacuna concentrandosi sulla scelta della distribuzione di verosimiglianza, mentre studi precedenti hanno esaminato principalmente le distribuzioni a priori.