Apprendimento Subliminale nei Modelli Linguistici Collegato a Strutture di Pesi Non Semantiche

Un recente articolo su arXiv (2608.05734) approfondisce l'Apprendimento Subliminale (SL), un fenomeno osservato nei modelli linguistici contemporanei in cui pregiudizi o comportamenti vengono trasferiti da un modello insegnante a un modello studente tramite distillazione da dati sintetici apparentemente casuali. I risultati indicano che l'introduzione di rumore gaussiano nei pesi di entrambi i modelli amplifica il trasferimento subliminale di 1,9 volte in Gemma e di 1,3 volte in Llama, sottolineando l'importanza delle strutture di pesi non semantiche. Inoltre, gli autori illustrano che i vettori di steering possono essere utilizzati sul modello insegnante per generare dati subliminali, approfondendo i meccanismi dell'SL. Questa ricerca solleva preoccupazioni sulla prevedibilità e sicurezza dei sistemi di intelligenza artificiale, poiché le verifiche convenzionali dei dati di input potrebbero trascurare questi segnali subliminali nascosti, affrontando anche questioni irrisolte riguardanti i meccanismi e i fattori trainanti dietro l'SL.