Non apprendibilità e disimparare per la dememorizzazione dei modelli

Uno studio recente pubblicato su arXiv (2605.11592) esplora tecniche sofisticate per la dememorizzazione dei modelli, come l'avvelenamento della disponibilità (non apprendibilità) e il machine unlearning, che mirano a mitigare lo sfruttamento dei dati nell'apprendimento automatico. La non apprendibilità incorpora sottili alterazioni nei dati prima della loro pubblicazione per ridurre l'apprendibilità, mentre l'unlearning elimina le informazioni dopo l'addestramento. Lo studio rivela debolezze comuni: entrambi gli approcci soffrono di dememorizzazione superficiale, portando ad affermazioni fuorvianti sulla ridotta apprendibilità dei dati o sull'oblio dovuto a cambiamenti di peso. Inoltre, le perturbazioni in input possono influenzare l'unlearning successivo, e l'unlearning potrebbe inavvertitamente recuperare conoscenze di dominio oscurate dalla non apprendibilità. Questa ricerca sottolinea la necessità di misure protettive più forti.