FedTopo: Condivisione della Topologia a Livello di Relazione per Apprendimento Federato con Modelli Eterogenei
FedTopo introduce un framework innovativo per l'apprendimento federato che gestisce l'eterogeneità dei modelli rappresentando la conoscenza globale come topologia delle relazioni tra classi, invece di basarsi su coordinate spaziali assolute. Ogni client genera la propria topologia delle relazioni basata su prototipi locali e la invia insieme alle statistiche delle classi. Il server combina quindi queste relazioni con un focus sull'affidabilità, affrontando i problemi di disallineamento derivanti da backbone diversi. Questo metodo evita le insidie associate alla condivisione di parametri del modello, previsioni distillate o prototipi di classi in spazi di rappresentazione disallineati. Ulteriori dettagli sono disponibili nell'articolo pubblicato su arXiv con ID 2607.26801.
Fatti principali
- FedTopo è un framework a livello di relazione per l'apprendimento federato con modelli eterogenei.
- Codifica la conoscenza globale come topologia delle relazioni tra classi.
- Ogni client costruisce la propria topologia delle relazioni a partire da prototipi locali.
- I client caricano la topologia delle relazioni insieme alle statistiche delle classi.
- Il server aggrega le relazioni in modo sensibile all'affidabilità.
- Backbone eterogenei rompono l'allineamento nei paradigmi esistenti.
- I paradigmi esistenti condividono la conoscenza come parametri del modello, previsioni distillate o prototipi di classi.
- L'articolo è su arXiv con ID 2607.26801.
Entità
Istituzioni
- arXiv