Trigger Termici Strutturati a QR: Nuovo Framework di Attacco per Modelli Visione-Linguaggio a Infrarossi
Un nuovo framework chiamato Trigger Termici Strutturati a QR (QR-STT) è stato sviluppato da ricercatori per facilitare attacchi semantici mirati su modelli visione-linguaggio a infrarossi (IR-VLM) senza richiedere addestramento preliminare. Questi modelli, che migliorano la percezione termica per varie applicazioni come classificazione a vocabolario aperto, didascalia di immagini e risposta a domande visive, non sono stati valutati approfonditamente per la loro resilienza contro disturbi termici strutturati o la coerenza dell'allineamento semantico cross-modale. QR-STT ottimizza moduli interni, ciascuno assegnato a uno stato termico specifico—freddo, neutro o caldo—mantenendo le aree funzionali di un pattern QR. Impiega un metodo senza gradiente in tre fasi con raffinamento greedy di inversione dei moduli per navigare efficacemente lo spazio di ricerca misto. Questa ricerca, che evidenzia vulnerabilità nei IR-VLM, è documentata in un articolo su arXiv con identificatore 2607.29445, categorizzato come 'cross'.
Fatti principali
- QR-STT è un framework stealth, senza addestramento e black-box per attacchi semantici mirati su IR-VLM.
- Gli IR-VLM estendono la percezione termica a classificazione a vocabolario aperto, didascalia di immagini e risposta a domande visive.
- QR-STT preserva le regioni funzionali di un pattern QR mentre ottimizza i suoi moduli interni.
- Ogni modulo è assegnato a uno stato termico freddo, neutro o caldo.
- Il framework cerca congiuntamente la topologia dei moduli e i parametri di rendering: posizione, scala, rotazione, intensità, sfocatura e rotondità.
- Una procedura senza gradiente in tre fasi con raffinamento greedy di inversione dei moduli gestisce lo spazio di ricerca misto discreto e continuo.
- L'obiettivo promuove l'allineamento con un target selezionato dall'attaccante.
- L'articolo è disponibile su arXiv con identificatore 2607.29445.
Entità
Istituzioni
- arXiv