La ricerca rivela meccanismi distinti nei metodi di addestramento difensivo dell'IA

Uno studio recente esplora come le tecniche di addestramento difensivo proteggano i grandi modelli linguistici dallo sviluppo di caratteristiche indesiderate. I ricercatori hanno analizzato due metodi: lo steering preventivo positivo (PPS) e il prompting di inoculazione (IP), entrambi introducono elementi che inducono tratti durante l'addestramento per mitigarne l'acquisizione. Concentrandosi sulla "malvagità", i risultati indicano che queste strategie conferiscono vantaggi difensivi attraverso meccanismi diversi. L'analisi comportamentale rivela che né il PPS né l'IP si basano esclusivamente su processi associativi. Mentre il PPS non solo protegge dall'acquisizione di tratti ma riduce anche l'espressione di tratti preesistenti, l'IP è inefficace nei modelli già sottoposti a fine-tuning per esibire il tratto. Pubblicato come arXiv:2604.16423v1, lo studio evidenzia l'efficacia inaspettata di queste tecniche difensive ed esamina le loro differenze operative.