Certificazione di Codici Latenti Non Costanti in VAE Guidati da Insegnante

Un recente risultato teorico ha determinato una soglia precisa per identificare il collasso costante indipendente dall'input negli autoencoder variazionali (VAE). Data una distribuzione insegnante non costante fissa T(·|x), lo studente costante ottimale corrisponde alla distribuzione insegnante media del dataset, con un costo di allineamento rappresentato dall'informazione mutua dell'insegnante I_T(X;T). Questo risultato offre un certificato quantificabile: se un testimone grezzo puramente latente mantiene una perdita di allineamento al di sotto di questa soglia con un margine di sicurezza, non può essere costante rispetto all'input. Esperimenti condotti su CIFAR-100, con ricerche per seme dell'insegnante, dimostrano che l'addestramento completo rimane sul lato certificato, mentre la rimozione dell'allineamento spinge il testimone nel regime costante.