Analisi del Manifold Comportamentale: Un Nuovo Approccio Geometrico al Post-Addestramento dei Modelli Linguistici

Una recente pubblicazione su arXiv (2608.01835) presenta l'analisi del manifold comportamentale, una tecnica volta a esaminare come il post-addestramento influenzi il comportamento dei modelli linguistici. Gli autori identificano tre possibili esiti: l'eliminazione di un meccanismo esistente, la formazione di uno nuovo, o modifiche nell'applicazione di un meccanismo ereditato. La ricerca affronta due distinti tipi di fallimenti: la ripetizione come problema di attrattore di decodifica e la sicofania come disallineamento legato alle preferenze. L'approccio identifica geometrie specifiche del comportamento selezionando coordinate sparse legate al comportamento e mappandole in grafici locali a bassa dimensionalità. Questi grafici sono sviluppati in due domini complementari: ACT, che riflette gli stati di attivazione a runtime, e NOC, che valuta la forza del flusso informativo funzionale attraverso il sottospazio condiviso associato al comportamento. I grafici risultanti sono altamente compressi e mostrano un allineamento parziale tra diverse architetture di modelli. Inoltre, l'articolo introduce grafici nello spazio dei contributi, i cui dettagli non sono completamente elaborati nell'abstract. Questo lavoro riveste importanza per il campo della tecnologia AI, specialmente per migliorare l'allineamento e l'addestramento dei modelli linguistici.