MotifRole-Diff: Mascheramento Consapevole dei Ruoli e Ottimale per il Rischio per Grafi Molecolari
Un nuovo modello di diffusione discreta mascherata per generare grafi molecolari, chiamato MotifRole-Diff, è stato introdotto dai ricercatori. Questo approccio innovativo sostituisce il tradizionale programma di corruzione uniforme con una strategia consapevole dei ruoli. Assegna tassi di mascheramento in base alla difficoltà di denoising determinata empiricamente e all'impatto di vari ruoli dei token molecolari, mantenendo al contempo l'architettura del modello originale, uno spazio di sequenza pulito e un decoder senza perdita. Un teorema definisce l'allocazione ottimale di un budget di mascheramento fisso tra i ruoli dei token, migliorando la perdita residua ponderata per ruolo. Questo metodo supera la sfida di trattare componenti molecolari strutturalmente diversi come ugualmente difficili da ricostruire. Il documento è disponibile su arXiv con ID 2607.21634.
Fatti principali
- MotifRole-Diff è un processo di corruzione consapevole dei ruoli per la diffusione mascherata di grafi molecolari.
- Alloca tassi di mascheramento in base alla difficoltà di denoising e all'impatto delle perturbazioni.
- Il metodo preserva l'architettura del modello, lo spazio di sequenza pulito e il decoder senza perdita.
- Un teorema caratterizza l'allocazione ottimale per il rischio di un budget di mascheramento fisso.
- L'approccio affronta la limitazione della corruzione uniforme nel gestire componenti molecolari eterogenei.
- Il documento è su arXiv con ID 2607.21634.
Entità
Istituzioni
- arXiv