Previsione degli Effetti Collaterali dello Steering di Attivazione nei Modelli Linguistici

Uno studio recente pubblicato su arXiv (ID: 2608.11227) indaga la prevedibilità degli effetti collaterali derivanti da una tecnica nota come steering di attivazione, utilizzata nella modifica dei modelli linguistici. Questo metodo integra direzioni apprese nelle attivazioni nascoste di questi modelli, consentendo modifiche comportamentali senza bisogno di riaddestramento. I ricercatori hanno analizzato 67 comportamenti distinti su tre modelli linguistici con pesi aperti, rivelando che gli effetti collaterali sono prevalenti, strutturati e spesso asimmetrici. In particolare, hanno scoperto che questi effetti collaterali possono spesso essere previsti prima dello steering, con la loro entità in gran parte influenzata dal comportamento desiderato, contribuendo a una maggiore sicurezza nei sistemi di intelligenza artificiale.