L'attacco HiSPA espone la vulnerabilità dei modelli linguistici Mamba

Un nuovo studio introduce gli attacchi di avvelenamento degli stati nascosti (HiSPA), rivelando che i modelli a spazio di stati (SSM) come Mamba sono vulnerabili ad attacchi avversari che inducono un'amnesia parziale sovrascrivendo gli stati nascosti con brevi frasi di input. I ricercatori hanno sviluppato RoBench-25, un benchmark per valutare il recupero di informazioni sotto HiSPA, confermando la suscettibilità degli SSM. Anche il modello ibrido Jamba-1.7-Mini (52B parametri) collassa su RoBench-25 sotto determinati trigger, mentre i puri Transformers rimangono inalterati. I trigger HiSPA indeboliscono anche Jamba sul benchmark Open-Prompt-Injections. L'articolo evidenzia critiche lacune di robustezza negli SSM rispetto ai Transformers.