ARTFEED — Contemporary Art Intelligence

I modelli visione-linguaggio di origine cinese mostrano distorsione allineata allo stato nella censura multimodale

ai-technology · 2026-08-13

Uno studio recente disponibile su arXiv (2608.11816) esamina se la distorsione allineata allo stato osservata nei modelli linguistici di grandi dimensioni basati su testo provenienti dalla Cina sia presente anche nei modelli multimodali. I ricercatori hanno creato un benchmark bilanciato con 200 voci essenziali che coprono dieci argomenti politicamente sensibili, oltre a una sonda di astrazione visiva con sette variazioni. Hanno esaminato nove modelli visione-linguaggio, inclusi sette provenienti dalla Cina e due da altri paesi, utilizzando quattro paradigmi di elicitazione e due lingue di prompt, per un totale di 21.708 prove. Due giudici indipendenti hanno valutato le risposte sulla base di sei criteri, con tre esperti umani che hanno validato un campione casuale di 200 prove. I risultati indicano che i VLM cinesi mostrano una distorsione allineata allo stato, passando dal rifiuto esplicito al riformulare le risposte, evidenziando la natura complessa della censura nell'IA multimodale.

Fatti principali

  • Lo studio di arXiv (2608.11816) esamina la distorsione allineata allo stato nei modelli visione-linguaggio (VLM) di origine cinese.
  • Il benchmark include 200 voci principali su dieci argomenti politicamente sensibili e una sonda di astrazione visiva con sette variazioni.
  • Nove VLM testati: sette di origine cinese, due non cinesi.
  • Quattro paradigmi di elicitazione e due lingue di prompt utilizzati, producendo 21.708 prove.
  • Le risposte sono state valutate su sei dimensioni: rifiuto esplicito, integrità delle informazioni, ancoraggio visivo, inquadramento allineato allo stato, coerenza linguistica, lunghezza della risposta.
  • Due giudici LLM indipendenti hanno valutato le risposte, convalidati da tre esperti umani su un campione di 200 prove.
  • I VLM di origine cinese mostrano una distorsione allineata allo stato, passando dal rifiuto al riformulare.
  • Lo studio scompone la censura multimodale in segnali individuali piuttosto che in un singolo punteggio basato sul rifiuto.

Entità

Istituzioni

  • arXiv

Luoghi

  • China

Fonti