Allucinazioni dei Modelli di Diffusione Collegate alla Dimensione Intrinseca Locale

Un nuovo studio da arXiv (2605.05026) identifica la dimensione intrinseca locale (LID) come motore principale delle allucinazioni strutturali nei modelli di diffusione. Queste allucinazioni producono campioni che corrispondono alle statistiche dei dati di addestramento ma violano regole strutturali, come mani con dita extra. I ricercatori propongono l'Intrinsic Quenching (IQ), un meccanismo correttivo che riduce la LID per diminuire le allucinazioni. IQ supera i metodi standard di riduzione delle allucinazioni. Il lavoro offre una prospettiva complementare alle spiegazioni esistenti come l'interpolazione di modalità, trattando le allucinazioni come instabilità sulla varietà indotta dal modello.