Algoritmo di Watermarking PASA per Testi Generati da LLM Sotto Attacchi Semantici

I ricercatori hanno introdotto una nuova tecnica di watermarking denominata PASA, progettata per identificare testi generati da LLM, resistente ad attacchi semantici invarianti come la parafrasi. Questo algoritmo, descritto in una pubblicazione su arXiv (2605.10977), opera a livello semantico utilizzando cluster nello spazio di embedding latente e una relazione distribuzionale tra sequenze di token e sequenze ausiliarie, coordinate tramite una chiave segreta e una cronologia semantica. La metodologia si basa su un modello teorico che definisce una combinazione ideale di embedding e rilevamento, garantendo un equilibrio tra precisione di rilevamento, robustezza e distorsione. Le valutazioni su vari LLM e scenari di attacco dimostrano che PASA mantiene la sua forza anche contro parafrasi aggressive, affrontando una debolezza significativa nelle attuali tecniche di watermarking per un uso responsabile dell'IA.