Tecniche per la Generazione Neurale Controllata di Testo nei Modelli Linguistici di IA

Il 2 gennaio 2021 è stato pubblicato un quadro completo dei metodi per orientare i grandi modelli linguistici a produrre testi con attributi desiderati come argomento, stile o sentimento. Il post, aggiornato più volte fino a settembre 2021, esplora strategie di decodifica, progettazione di prompt e approcci di fine-tuning. Le tecniche chiave includono la decodifica guidata, che modifica il campionamento tramite funzioni di classificazione, e metodi di decodifica addestrabili come NPAD e LFIW. I metodi di progettazione intelligente dei prompt come AutoPrompt, Prefix-Tuning, P-tuning e Prompt Tuning ottimizzano gli embedding continui per il controllo specifico del compito. Le strategie di fine-tuning coinvolgono l'addestramento condizionale, il rinforzo con preferenze umane e strati orientabili come PPLM e GeDi. Gli approcci distribuzionali e l'addestramento di improbabilità affrontano l'eccessiva sicurezza e la ripetizione del modello. Il lavoro fa riferimento a numerosi articoli di ricerca, inclusi contributi di Fan et al. (2018), Holtzman et al. (2019), Keskar et al. (2019) e Ziegler et al. (2019).