Rilevamento di Backdoor Neurali tramite Disapprendimento Psicometrico

Un nuovo articolo su arXiv propone un framework cibernetico per rilevare e rimuovere backdoor neurali nei sistemi di IA. Gli attacchi backdoor, paragonati all'ipnopedia (condizionamento subliminale), consentono la manipolazione non autorizzata dei modelli di machine learning attraverso trigger nascosti. Lo studio introduce un meccanismo di disapprendimento auto-consapevole che autonomamente dissocia il comportamento del modello dai trigger backdoor utilizzando reverse engineering e inferenza statistica. Il framework monitora continuamente fonti di dati inaffidabili per identificare minacce. L'articolo è disponibile con ID arXiv 2410.05284.