Un documento di ricerca sull'IA esamina il trasferimento del comportamento del modello attraverso esperimenti di routing controllato

Un recente documento di ricerca esamina come gli interventi basati su prompt influenzino il comportamento dei modelli di IA, concentrandosi sulla rappresentazione di stati rilevanti dal punto di vista comportamentale all'interno delle reti neurali. Lo studio utilizza compiti di routing controllato con interfacce selezionate da dati di supporto, valutando query non viste insieme a controlli di necessità, sufficienza e interfaccia errata corrispondenti. Gli esperimenti condotti su GPT-2 triop rivelano che un'interfaccia iniziale consente un trasferimento preciso nelle condizioni di test specificate. Per i compiti GPT-2 add/sub, il trasferimento compilato senza riaddestramento a interfacce fisse raggiunge la maggior parte dell'accuratezza del routing donatore, mentre gli slot prompt addestrabili possono reimparare solo comportamenti simili in posizioni diverse dopo ulteriori esempi di supporto e ottimizzazione. Questi risultati chiariscono la distinzione tra il riutilizzo a interfaccia fissa e la rilocazione del prompt in scenari direttamente confrontabili. Il routing Qwen offre una validazione cross-architettura per lo stesso schema di interfaccia corrispondente ai token operatore, sebbene siano necessarie ulteriori indagini per gli aspetti identitari specifici del donatore. La ricerca differenzia sistematicamente vari meccanismi di trasferimento comportamentale nei modelli linguistici.