DistPFN: Regolazione a Posteriori in Tempo di Test per lo Spostamento delle Etichette in TabPFN

TabPFN, un modello fondamentale progettato per dataset tabulari che utilizza l'apprendimento in contesto su dati sintetici, affronta sfide con lo spostamento delle etichette, spesso sovradattandosi alla classe dominante. Per contrastare questo problema, i ricercatori hanno introdotto DistPFN, la prima tecnica di regolazione a posteriori in tempo di test per modelli fondamentali tabulari. Questo metodo modifica le probabilità delle classi previste riducendo il peso del prior di addestramento e accentuando il posterior previsto dal modello, senza richiedere modifiche all'architettura o addestramento aggiuntivo. Un'estensione chiamata DistPFN-T aggiunge il temperature scaling per gestire dinamicamente la forza delle regolazioni in base alle discrepanze tra prior e posterior. Testato su oltre 250 dataset OpenML, DistPFN dimostra miglioramenti significativi rispetto a TabPFN quando si verifica uno spostamento delle etichette.