ATLAS: Approssimazione Polinomiale Automatica per l'Inferenza di Transformer con FHE

Un nuovo framework chiamato ATLAS automatizza la configurazione delle approssimazioni polinomiali per modelli transformer sotto crittografia completamente omomorfica (FHE), riducendo il tempo di configurazione da giorni a un'ora. FHE consente l'inferenza privata ma richiede la sostituzione di operazioni non lineari come softmax e normalizzazione con approssimazioni polinomiali compatibili con lo schema CKKS. La profondità moltiplicativa di queste approssimazioni domina il costo dell'inferenza. I framework esistenti utilizzano iperparametri configurati manualmente applicati uniformemente a tutti i livelli, il che è subottimale perché diversi livelli tollerano diversi livelli di errore. ATLAS consente una configurazione per livello per sfruttare questa variabilità, riducendo la latenza senza sacrificare l'accuratezza. Il sistema cerca automaticamente iperparametri di approssimazione ottimali, ottenendo un'inferenza omomorfica efficiente. L'articolo è disponibile su arXiv con ID 2607.23478.