P2Skill: Distillazione di Competenze che Preserva la Privacy per Inferenza LLM Cloud-Locale

Uno studio recente pubblicato su arXiv (2608.14094) presenta P2Skill, un nuovo metodo di distillazione delle competenze basato su prompt, volto a migliorare i sistemi di inferenza LLM cloud-locali. Questi sistemi cercano di unire le capacità analitiche di estesi modelli cloud con la riservatezza dell'elaborazione on-device. Per salvaguardare le informazioni personali identificabili (PII), è fondamentale sanificare le richieste inviate al cloud. Le tecniche attuali come la perturbazione dei prompt, il mascheramento delle entità o il fine-tuning possono alterare la semantica o richiedere formazione aggiuntiva. Al contrario, P2Skill impiega un piccolo modello linguistico locale (SLM) che esegue in modo indipendente la scomposizione, il routing consapevole delle PII, la parafrasi e la ricostruzione seguendo prompt di competenza. Le competenze vengono progressivamente migliorate attraverso il feedback di un LLM cloud, consentendo all'SLM di estendere le proprie capacità oltre i modelli di PII memorizzati senza bisogno di fine-tuning specifico per la privacy o di rilevatori aggiuntivi. I dettagli di valutazione del documento sono brevemente annotati ma incompleti. È classificato come annuncio di tipo incrociato, suggerendo potenziali presentazioni in vari contesti.