LeakGauge: Nuovo Metodo per Misurare i Segnali di Perdita di Contesto nei Grandi Modelli Linguistici
Una preprint è stata caricata su arXiv (identificatore 2608.17829v1) da ricercatori che presentano LeakGauge, una tecnica progettata per identificare segni di perdita di contesto esterno nei grandi modelli linguistici (LLM). Questi modelli dipendono spesso dal contesto esterno, il che può portare a vulnerabilità in cui input dannosi potrebbero esporre dati sensibili. LeakGauge valuta la perdita prima della decodifica aggiungendo un suffisso alla query, consentendo di valutare il comportamento di perdita e collegando le probabilità dei token di prefill a un punteggio di rischio di attacco. I test condotti su 11 LLM, come GLM-5.2 con 753 miliardi di parametri e Kimi-K3 con 2.8 trilioni di parametri, indicano che un indicatore agnostico rispetto al contenuto fornisce segnali più affidabili. Questo metodo potrebbe migliorare la sicurezza degli LLM senza necessità di accesso alle rappresentazioni nascoste, evidenziando l'importanza di scegliere il tipo di segnale indicatore appropriato.
Fatti principali
- L'articolo è disponibile su arXiv con identificativo 2608.17829v1.
- LeakGauge è un metodo per misurare i segnali di perdita di contesto nei grandi modelli linguistici.
- Gli LLM si affidano a contesti esterni come prompt di sistema e documenti recuperati, creando una superficie di attacco.
- Input avversari possono indurre i modelli a rivelare il contesto esterno.
- Studi di probing precedenti richiedevano stati nascosti, ponendo sfide di implementazione.
- LeakGauge aggiunge un suffisso alla query e mappa le probabilità dei token di prefill in un punteggio di rischio di attacco.
- Un indicatore agnostico rispetto al contenuto che verbalizza il comportamento di perdita è più robusto di un indicatore diretto che utilizza i token iniziali del contenuto riservato.
- Il metodo è stato testato su 11 LLM, inclusi GLM-5.2 (753B) e Kimi-K3 (2.8T).
Entità
—