Qwen3-32B Steering delle Preferenze Temporali tramite Addizione di Attivazioni Contrastive

Una nuova tecnica è stata creata dai ricercatori per influenzare le preferenze temporali dei grandi modelli linguistici, in particolare Qwen3-32B, attraverso l'addizione di attivazioni contrastive. I risultati, pubblicati come preprint arXiv 2608.03892, rivelano rappresentazioni lineari degli orizzonti temporali nel flusso residuo del modello. Addestrando sonde lineari contrastive su risposte a scelte temporali forzate dall'insegnante, è stata scoperta una distinzione tra preferenze a breve e lungo termine. Applicando lo steering tramite addizione di attivazioni contrastive a compiti binari di scelta temporale, scelte intertemporali monetarie fuori distribuzione e il benchmark TravelPlanner, sono stati ottenuti notevoli spostamenti bidirezionali delle preferenze. Il punto chiave è che semplici sonde lineari possono identificare direzioni dell'orizzonte temporale, consentendo aggiustamenti nella soglia di indifferenza del modello riguardo a ricompense più piccole e immediate rispetto a più grandi e ritardate, il che ha implicazioni significative per l'allineamento dell'IA e il processo decisionale legato al tempo.