DSIPA: Framework senza addestramento rileva testo generato da LLM tramite analisi del sentiment

I ricercatori hanno proposto DSIPA, un innovativo framework senza addestramento per rilevare testo generato da LLM analizzando la stabilità distribuzionale del sentiment sotto variazioni stilistiche controllate. Il framework affronta le sfide di sicurezza poste dai contenuti generati da macchine utilizzati per disinformazione, impersonificazione e falsificazione di contenuti. A differenza dei metodi di rilevamento esistenti che lottano con perturbazioni avversarie, attacchi di parafrasi e cambi di dominio, DSIPA opera in modalità zero-shot e black-box senza richiedere accesso ai parametri del modello o grandi set di dati etichettati. Sfrutta due metriche non supervisionate—consistenza della distribuzione del sentiment e preservazione della distribuzione del sentiment—basate sull'osservazione che gli LLM producono output emotivamente coerenti mentre i testi scritti da umani mostrano una maggiore variazione affettiva. L'articolo è disponibile su arXiv con identificatore 2604.26328.