FRACTAL: Architettura Ricorrente Frazionale Migliora la Modellazione di Sequenze Lunghe
Uno studio recente pubblicato su arXiv (2605.08833) introduce FRACTAL, acronimo di Fractional Recurrent Architecture for Computational Temporal Analysis of Long sequences. Questa architettura innovativa incorpora la teoria della misura frazionale negli aggiornamenti di memoria ricorsiva, affrontando le carenze degli attuali modelli a spazio di stato (SSM) che utilizzano operatori di proiezione HiPPO. Questi modelli esistenti incontrano un dilemma: le misure uniformi possono diluire le informazioni recenti per ottenere invarianza di scala temporale, mentre le misure esponenziali compromettono il contesto globale per le dinamiche locali. FRACTAL genera operatori di proiezione con caratteristiche spettrali definite analiticamente e un indice di singolarità regolabile, migliorando la reattività ai cambiamenti recenti del segnale pur mantenendo l'integrità spettrale. Questo approccio bilancia efficacemente la conservazione di una vasta quantità di dati storici con la rilevazione precisa di fluttuazioni improvvise a breve termine tipiche degli scenari reali.
Fatti principali
- Il paper arXiv:2605.08833 propone l'architettura FRACTAL
- FRACTAL integra la teoria della misura frazionale negli aggiornamenti di memoria ricorsiva
- Affronta il compromesso negli SSM che utilizzano operatori di proiezione HiPPO
- Deriva operatori di proiezione con indice di singolarità regolabile
- Amplifica la sensibilità alle perturbazioni recenti del segnale
- Preserva la struttura spettrale per il contesto a lungo termine
- Bilancia la conservazione illimitata della storia con la rilevazione di variazioni a breve termine
- Pubblicato su arXiv come nuovo tipo di annuncio
Entità
Istituzioni
- arXiv