Auto-avvelenamento nel Rilevamento OOD Adattivo: Una Teoria della Soglia Netta
Un'indagine teorica sui rilevatori adattivi out-of-distribution (OOD) ha scoperto un principio dinamico verificabile che governa l'auto-avvelenamento. Lo studio concettualizza l'impurità del memory bank come un'urna di Pólya generalizzata, dimostrando una convergenza quasi certa verso un equilibrio di campo medio. La stabilità è determinata dalla pendenza di un numero di riproduzione: quando inferiore a uno, l'impurità è innocua; quando superiore a uno, il bank diventa completamente avvelenato, portando al fallimento del rilevatore. Il kernel di ammissione osservato è affine (R² ≥ 0.996), con una pendenza leggermente inferiore a uno in tutte le famiglie di encoder, suggerendo un design quasi critico. In 96 scenari, la soglia prevista si allinea con il collasso effettivo, con dizionari non controllati che subiscono una perdita fino a 0.163 AUROC. Un gate di ammissione certificato, che accede solo a una riserva congelata, interrompe il ciclo di feedback e mitiga le transizioni a qualsiasi livello di contaminazione, inclusi i casi avversari, gestendo al contempo i falsi positivi.
Fatti principali
- I rilevatori OOD adattivi aggiornano un memory bank da un flusso non etichettato
- L'adattamento obbedisce a una legge dinamica dimostrabile
- L'impurità del bank è modellata come un'urna di Pólya generalizzata
- Convergenza quasi certa verso un equilibrio di campo medio
- La pendenza funge da numero di riproduzione
- Sotto uno: impurità benigna; sopra uno: avvelenamento completo
- Kernel di ammissione misurato affine con R² ≥ 0.996
- Pendenza appena sotto uno in ogni famiglia di encoder
- Soglia prevista corrisponde al collasso empirico in 96 impostazioni
- Dizionari non controllati perdono fino a 0.163 AUROC
- Gate di ammissione certificato interrompe il ciclo di feedback
- Il gate rimuove la transizione a qualsiasi tasso di contaminazione, anche avversario
- Il gate controlla i falsi positivi
Entità
—