SAE Temporali Residualizzati per l'Interpretazione dei Modelli di Diffusione

Viene introdotto un nuovo metodo chiamato autoencoder sparsi temporali residualizzati (SAE) per interpretare i modelli di diffusione text-to-image. A differenza degli SAE standard che analizzano le attivazioni a singoli passi temporali, questo approccio raccoglie le attivazioni lungo l'intera traiettoria di denoising, adatta predittori lineari tra passi temporali vicini e rappresenta ciascuna traiettoria usando un'attivazione iniziale più componenti residuali non spiegati dalla dinamica lineare. Addestrare un SAE su questa rappresentazione residualizzata cattura la struttura oltre la prevedibilità lineare. L'articolo è disponibile su arXiv con ID 2605.27813.