Test di Machine Unlearning Inquadrati come Sfida di Ingegneria del Software

I componenti di machine learning sono diventati fondamentali per i sistemi software basati sull'intelligenza artificiale, inclusi motori di raccomandazione, assistenti di programmazione e strumenti di supporto clinico. I requisiti normativi e i framework di governance richiedono sempre più la rimozione di dati sensibili dai modelli implementati, rendendo il machine unlearning un'alternativa pratica al completo riaddestramento. Questo approccio presenta una significativa sfida per l'assicurazione della qualità del software: con i vincoli di implementazione nel mondo reale e oracoli imperfetti, come possiamo verificare che un modello non dipenda più dalle informazioni mirate? Il documento posiziona il testing dell'unlearning come una preoccupazione primaria dell'ingegneria del software. I test pratici di unlearning devono offrire una copertura completa attraverso i percorsi di influenza proxy e mediati. Dovrebbero fornire diagnostiche debuggabili che identifichino dove persiste la perdita di dati. Questi test devono essere economicamente vantaggiosi per l'esecuzione in stile regressione all'interno di budget di query. Inoltre, devono essere applicabili in scenari black-box per modelli implementati tramite API. La ricerca delinea un framework causale per affrontare questi requisiti.