Backdoor architetturali minacciano le catene di approvvigionamento dei modelli visione-linguaggio

Un recente preprint su arXiv (2607.25479) indica che attori malintenzionati possono inserire backdoor architetturali nelle catene di approvvigionamento dei modelli Visione-Linguaggio (VLM) attraverso un metodo noto come rappresentation steering. Questa tecnica incorpora una logica di controllo nascosta nell'architettura del modello utilizzando un'alterazione additiva attivata da un trigger di una rappresentazione intermedia, evitando la necessità di avvelenare i dati di addestramento, gestire il fine-tuning downstream o modificare i prompt durante il deployment. In assenza del trigger, l'alterazione diventa effettivamente nulla. Questa tattica sfrutta il confine di fiducia presente nelle implementazioni VLM che si basano su comportamenti eseguibili da artefatti del modello condivisi da fonti esterne.