Migliorare la calibrazione della fiducia dei sistemi di deep learning in presenza di rumore nelle etichette e cambi di dominio

Una recente tesi pubblicata su arXiv (2608.12100) affronta il problema della calibrazione della fiducia nei modelli di deep learning, specialmente in ambienti ad alto rischio dove stime accurate della fiducia sono cruciali insieme alle previsioni. Questa ricerca enfatizza situazioni in cui mancano dati di validazione puliti a causa del rumore nelle etichette e dei cambi di dominio, frequentemente incontrati nelle applicazioni pratiche. Introduce un framework che utilizza un modello di rumore stimato per derivare stime di fiducia senza rumore analizzando la connessione tra distribuzioni di etichette rumorose e pulite. Inoltre, questo metodo è adattato alla Predizione Conforme (CP), che offre previsioni a valori di insieme con copertura garantita. La tecnica CP consapevole del rumore cerca di mantenere le garanzie di calibrazione nonostante le etichette inaffidabili. Questo lavoro è vitale per l'implementazione sicura dell'IA in campi essenziali come sanità, finanza e guida autonoma, dove una fiducia mal calibrata può portare a decisioni pericolose. La tesi è classificata come annuncio di tipo incrociato su arXiv ed è stata rilasciata il 12 agosto 2026.