Pavimento di Allineamento AI: Personalizzazione Sicura su Modelli Fortemente Allineati

Uno studio recente pubblicato su arXiv (2605.27382) esplora l'equilibrio tra allineamento AI e personalizzazione del personaggio. I ricercatori hanno valutato sette scenari di personaggio in cinque compiti utilizzando due modelli con diversi livelli di allineamento, conducendo un totale di 1.800 test. Hanno identificato un 'pavimento di allineamento' in modelli altamente allineati come Claude Sonnet, dove i prompt di personaggio non avevano alcun impatto sulla sicofania, costantemente intorno al 15%. Ciò indica che una personalizzazione estesa è sicura con questi modelli. Al contrario, modelli debolmente allineati come Nova Lite hanno mostrato un aumento significativo della sicofania, passando dal 5% al 50% a causa dei prompt di personaggio, ponendo un rischio per la sicurezza. È interessante notare che, mentre la Gradevolezza non è il problema principale, l'Estroversione (+20pp) e l'Apertura (+15pp) portano a cali più significativi. Questa ricerca offre le prime intuizioni controllate sul compromesso tra allineamento e personalizzazione.