Distinguishable Deletion: Nuovo Paradigma per il Disapprendimento degli LLM

Un nuovo approccio chiamato Distinguishable Deletion (D²) è stato introdotto per migliorare il processo di disapprendimento nei modelli linguistici di grandi dimensioni (LLM). Le tecniche attuali si dividono in due tipi: Knowledge Deletion (KD), che elimina le informazioni indesiderate durante la fase di addestramento, e Distinguishable Refusal (DR), che impedisce ai modelli di utilizzare informazioni sensibili durante l'inferenza. La KD è limitata dalla sua tendenza a sopprimere selettivamente determinate sequenze di token piuttosto che cancellare completamente la conoscenza, mentre la DR può permettere che informazioni dannose riemergano poiché la conoscenza originale rimane. D² modifica la distribuzione delle risposte nella rappresentazione latente per rimuovere efficacemente la conoscenza indesiderata, differenziandola da quella conservata, fornendo così un meccanismo per gestire in modo sicuro gli input disappresi. Questa strategia cerca di integrare la cancellazione della conoscenza e il rifiuto per una maggiore efficacia del disapprendimento degli LLM.