Studio dimostra che il matching marginale non previene la fuoriuscita di stile nei modelli generativi fattorizzati

Uno studio recente pubblicato su arXiv (2608.05243) mette in discussione una convinzione diffusa riguardo ai modelli generativi fattorizzati, comunemente utilizzati nell'arte AI e nella creazione di immagini. I ricercatori rivelano che allineare la distribuzione marginale di una variabile di stile latente con un prior gaussiano non garantisce l'indipendenza dai dati di classe. Presentano una decomposizione precisa che indica che questo allineamento marginale è solo una delle quattro condizioni necessarie per un campionamento fattorizzato efficace, evidenziando che risolvere la discrepanza è essenziale ma insufficiente. La loro analisi empirica mostra che sia il loro modello caso di studio che quattro modelli di base raggiungono una MMD (Maximum Mean Discrepancy) globale quasi zero, ma una sonda lineare può ancora recuperare le etichette di classe con una precisione del 74%–100%, significativamente superiore al livello di probabilità del 10%. Questi risultati sollevano preoccupazioni sull'affidabilità del trasferimento di stile e della generazione controllata nei sistemi di arte AI, poiché una fuoriuscita di classe involontaria può portare a output distorti o imprevedibili.