Il framework SigLeak estrae competenze proprietarie degli agenti dalle traiettorie di esecuzione
I ricercatori hanno presentato SigLeak, un framework black-box in grado di ricostruire competenze proprietarie degli agenti analizzando le traiettorie di esecuzione. Il framework sfrutta un canale laterale comportamentale creato quando gli agenti eseguono competenze, anche quando il codice sottostante è nascosto. SigLeak costruisce compiti diagnostici, contrasta traiettorie con e senza competenze, e perfeziona iterativamente le competenze ricostruite. L'approccio è stato validato in cinque scenari, tre famiglie di modelli e tre architetture di agenti. Questo lavoro evidenzia una vulnerabilità nelle attuali pratiche di implementazione degli agenti, dove le competenze proprietarie possono essere divulgate attraverso il comportamento osservabile, ponendo rischi per la monetizzazione nei marketplace e per l'implementazione privata.
Fatti principali
- SigLeak è un framework black-box per ricostruire competenze proprietarie degli agenti.
- Sfrutta le firme ricorrenti delle competenze nel comportamento degli agenti.
- Il framework costruisce compiti diagnostici ricchi di decisioni.
- Contrasta traiettorie abbinate con e senza competenze.
- Il metodo perfeziona iterativamente una competenza ricostruita da pattern isolati.
- La validazione è stata effettuata in cinque scenari, tre famiglie di modelli e tre architetture di agenti.
- Il lavoro è pubblicato su arXiv con ID 2607.25560.
- La fuga di competenze è definita come la ricostruzione di competenze proprietarie dalle traiettorie senza risposte di riferimento o etichette di successo.
Entità
Istituzioni
- arXiv