Rhamba: Apprendimento Auto-Supervisionato Consapevole delle Regioni per l'Analisi fMRI
Rhamba, un nuovo framework, combina il mascheramento anatomicamente guidato con architetture ibride Attention-Mamba per migliorare l'apprendimento auto-supervisionato nell'analisi fMRI a riposo. I modelli sono stati inizialmente addestrati sul dataset ABIDE, utilizzando embedding di patch allineati alle regioni insieme a tre tecniche di mascheramento (Any, Majority, Pure) che variano in specificità spaziale. Sono state testate quattro diverse configurazioni architetturali: solo Mamba, Alternate (che alterna Mamba e Attention), e due setup ibridi encoder-decoder (Attention-Mamba e Mamba-Attention). Successivamente, i modelli pre-addestrati sono stati affinati per compiti di classificazione utilizzando i dataset COBRE e ADHD-200, concentrandosi sulla rilevazione di schizofrenia e ADHD. Questa ricerca evidenzia gli effetti spesso trascurati del mascheramento consapevole delle regioni e della modellazione sequenziale ibrida in neuroimaging.
Fatti principali
- Rhamba integra il mascheramento anatomicamente guidato con architetture ibride Attention-Mamba.
- Pre-addestrato sul dataset ABIDE con embedding di patch allineati alle regioni.
- Tre strategie di mascheramento: Any, Majority, Pure.
- Quattro varianti architetturali: solo Mamba, Alternate, Attention-Mamba, Mamba-Attention.
- Affinato sui dataset COBRE e ADHD-200.
- Compiti: classificazione di schizofrenia e ADHD.
- Si concentra sul mascheramento consapevole delle regioni e sulla modellazione sequenziale ibrida.
- Pubblicato su arXiv con ID 2605.01240.
Entità
Istituzioni
- arXiv