ICCU: Un Framework di Disapprendimento Continuo In-Context per Modelli Linguistici

Un nuovo framework chiamato ICCU (In-Context Continual Unlearning) è stato introdotto da ricercatori per gestire richieste di disapprendimento sequenziali nei modelli linguistici senza alterare i parametri del modello. A differenza degli approcci tradizionali di fine-tuning, ICCU genera regole di rifiuto comprensibili dai dataset di disapprendimento, che vengono poi utilizzate come filtro o tramite prompt di sistema durante l'inferenza. Questo framework raccoglie le regole in modo indipendente dall'ordine, prevenendo interferenze tra le richieste e consentendo la rimozione dei dati originali del forget-set dopo l'induzione delle regole. I risultati sperimentali mostrano una soppressione efficace della conoscenza target mantenendo l'utilità, dimostrando scalabilità per richieste sequenziali. Il documento di ricerca è disponibile su arXiv.