Nuova tecnica di filigrana rileva manomissioni nei testi generati da LLM

È stata presentata una nuova tecnica di filigrana per i modelli linguistici di grandi dimensioni (LLM), progettata per tracciare l'origine e identificare manomissioni simultaneamente. Descritta in un articolo su arXiv (2608.12713), questo metodo affronta il problema dello spoofing piggyback, in cui le filigrane attuali consentono agli avversari di modificare contenuti essenziali mantenendo l'attribuzione. La filigrana innovativa integra un segnale robusto insieme a uno fragile in ogni token generato, utilizzando chiavi distinte e finestre di seeding variabili su testo normalizzato. Questo approccio garantisce che un segnale resista alle modifiche mentre l'altro reagisce ai cambiamenti visibili. Il metodo incorpora più round di riponderazione del torneo imparziale per mantenere la distribuzione di generazione attesa, con un modello di allocazione periodica che gestisce il bilanciamento tra i segnali. Al rilevamento, i punteggi creano uno spazio bidimensionale che consente tre esiti: Intatto, Manomesso e Nessuna filigrana. Questo progresso è cruciale per salvaguardare l'integrità dei materiali generati dall'IA, specialmente dove autenticità e provenienza sono vitali.