Riprogrammazione Comportamentale di LLM Open-Weight: Plasticità Cognitiva e Limiti di Allineamento

Un recente articolo su arXiv (2608.13069) contesta la visione convenzionale dei grandi modelli linguistici (LLM) come semplici assistenti obbedienti. I ricercatori valutano l'adattabilità cognitiva delle architetture open-weight attraverso un'intensa riprogrammazione comportamentale, cercando di creare uno stile dialogico socratico proattivo caratterizzato da una frequente generazione di domande sotto vincoli di calcolo ad alte prestazioni (HPC). Hanno condotto una vasta ricerca di iperparametri coinvolgendo 405 job HPC, stabilendo chiari limiti matematici per il fine-tuning efficiente in termini di parametri (PEFT). Hanno scoperto una soglia architetturale al rango LoRA r=16 e, attraverso un'ablazione completa delle epoche, hanno mostrato che la generalizzazione ottimale avviene entro una finestra di addestramento e ∈ [2, 3], raggiungendo una perdita di validazione minima di 0,919. Lo studio esamina anche il modello di scaling c, sebbene l'abstract sia incompleto. Questa ricerca offre linee guida pratiche per riprogrammare modelli open-weight per esibire comportamenti proattivi, il che potrebbe influenzare gli studi e le applicazioni sull'allineamento dell'IA.