La re-iniezione del vettore emotivo migliora il richiamo della memoria nei modelli linguistici

Un nuovo articolo su arXiv introduce un metodo per dotare i modelli linguistici di una memoria di tipo episodico, re-iniettando vettori emotivi durante il richiamo. Gli autori sostengono che i modelli attuali memorizzano la memoria semantica (cosa è successo) ma mancano della componente 'come ci si sentiva', analogamente all'ipotesi del marcatore somatico di Damasio. Utilizzando Gemma 3 1B-IT con gli autoencoder sparsi Gemma Scope 2, hanno identificato 310 caratteristiche esclusive delle emozioni al layer 22. Costruiscono vettori emotivi durante l'esperienza e li re-iniettano parzialmente al momento del richiamo, attivati dalla somiglianza del contesto al layer 7. Sono state testate quattro condizioni: nessuna memoria, solo etichette semantiche, solo eco emotivo, ed entrambi. Il solo eco emotivo ha accentuato l'orientamento emotivo, parallelamente al quadro di Damasio in cui i marcatori emotivi aiutano il processo decisionale.