L'Attribuzione dei Dati Vulnerabile alla Manipolazione nel ML Distribuito

Una recente indagine ha scoperto vulnerabilità nell'attribuzione dei dati all'interno del machine learning distribuito, indicando che può essere facilmente sfruttata. I ricercatori dimostrano che un singolo partecipante in un tipico setup di training distribuito può aumentare artificialmente il proprio punteggio di attribuzione senza compromettere le prestazioni complessive. Questo metodo, chiamato attribution-first, utilizza l'ottimizzazione latente per introdurre piccoli batch sintetici che sfruttano la distribuzione non IID delle etichette e le sensibilità del valutatore. L'attacco aumenta in modo affidabile il punteggio di attribuzione dell'avversario su vari dataset, modelli e valutatori di utilità marginale, alterando anche le dinamiche di attribuzione tra i clienti legittimi. In particolare, non compromette l'accuratezza né attiva le difese basate sulla geometria. Questi risultati suggeriscono che l'attribuzione stessa rappresenta un nuovo vettore di attacco, sollevando preoccupazioni per la determinazione dei prezzi, l'audit e la governance nei sistemi di ML. La ricerca è disponibile su arXiv con ID 2605.15520.