Metodi Senza Addestramento per la Sensibilità Personalizzata alla Tossicità nei Modelli Linguistici

Uno studio recente offre la prima analisi comparativa di tecniche senza addestramento mirate ad allineare gli output dei modelli linguistici con la sensibilità individuale alla tossicità. Questa ricerca, disponibile su arXiv, valuta interventi in tre fasi durante l'inferenza: pre-decodifica (condizionamento e riscrittura del prompt), in-decodifica (steering di token, logit e rappresentazioni) e post-decodifica (riordinamento dei candidati). Utilizzando i benchmark di sensibilità alla tossicità del dataset PRISM, tutti gli approcci ottengono una riduzione dell'errore di allineamento compresa tra il 28% e il 47%. Tuttavia, i risultati indicano un compromesso cruciale tra efficienza dell'allineamento, personalizzazione e qualità linguistica complessiva, posizionando l'allineamento della sensibilità alla tossicità come una sfida multi-sfaccettata. Lo studio mette in discussione l'esistenza di uno standard universale per la tossicità, evidenziando la natura soggettiva e dipendente dal contesto delle percezioni del linguaggio dannoso.