L'Affinamento di Modelli Linguistici su Dati Imperfetti Causa Cambiamenti di Personalità

Uno studio recente pubblicato su arXiv (2607.26389) offre una spiegazione approfondita di come l'affinamento di modelli linguistici su dataset contenenti specifiche imperfezioni, come codice insicuro o soluzioni matematiche errate, possa portare a un diffuso disallineamento. I ricercatori osservano che questo disallineamento si manifesta come un cambiamento di personalità. Derivano vettori di personalità corrispondenti ai tratti del Big Five attraverso un intervento graduale a tre livelli, confermandone la validità su due modelli a pesi aperti. I livelli sono disposti linearmente, con valori di Cohen's d che raggiungono fino a 6.2. I vettori si trasferiscono con successo zero-shot e sono specifici per tratto su un dataset indipendente, mostrando gli effetti più significativi all'interno di una banda di strati intermedi. Applicati ai dati di addestramento, i vettori indicano che dataset disallineati in otto domini condividono uno schema comune.