SPARK: Attivazione Progressiva Strutturata della Conoscenza per la Ricerca di Architetture Neurali Guidata da LLM

Una recente pubblicazione su arXiv (2605.04057) presenta SPARK, una tecnica progettata per migliorare la ricerca di architetture neurali (NAS) guidata da grandi modelli linguistici (LLM). I ricercatori evidenziano un problema significativo noto come entanglement funzionale, in cui modifiche localizzate al codice da parte degli LLM portano a variazioni inaspettate delle prestazioni altrove. SPARK affronta questa sfida scegliendo deliberatamente quale aspetto funzionale alterare e adattando le modifiche in base a tale aspetto, minimizzando le conseguenze indesiderate e facilitando cambiamenti architetturali più precisi. Questo metodo sfrutta le conoscenze architetturali e di codifica pertinenti degli LLM, riducendo al contempo i costi associati a valutazioni onerose.