PrivScope: Privacy su Dispositivo per Agenti AI Ibridi
PrivScope è un sistema innovativo progettato per affrontare il problema della condivisione eccessiva di informazioni negli agenti AI ibridi locale-cloud. Questi agenti arricchiscono le richieste degli utenti con il contesto del loro stato corrente prima di trasmettere sotto-attività a un modello linguistico cloud (CLM), il che può portare a un'esposizione non necessaria dei dati. Agendo come un affidabile gestore del payload sul dispositivo, PrivScope regola le divulgazioni specifiche per attività all'interfaccia locale-CLM senza richiedere modifiche sul lato cloud. Garantisce che i dati sensibili vengano inviati al cloud solo quando essenziali per la sotto-attività assegnata, e nella forma più minima che ne mantenga l'utilità. Questo sistema è stato descritto in un articolo pubblicato su arXiv (2605.16630).
Fatti principali
- PrivScope è un governatore del payload sul dispositivo di fiducia.
- Impone la divulgazione limitata all'attività al confine locale-CLM.
- Non sono necessarie modifiche sul lato cloud.
- Le informazioni sensibili vengono inviate solo quando necessarie per la sotto-attività.
- Le informazioni vengono inviate nella forma meno rivelatrice che preserva l'utilità.
- Gli agenti ibridi locale-cloud arricchiscono le richieste con il contesto dello stato di lavoro persistente.
- La sovra-divulgazione include contesto irrilevante per l'attività, residui di flussi di lavoro precedenti e dettagli sensibili eccessivamente specifici.
- Le soluzioni esistenti isolano i flussi di lavoro o applicano una sanificazione generica.
Entità
Istituzioni
- arXiv