Violare e Difendere i Sistemi di Rilevamento Bot sui Social Media Basati su LLM

Un nuovo articolo su arXiv (2608.15893v1) esamina la sicurezza dei sistemi di rilevamento bot sui social media basati su grandi modelli linguistici (LLM). Lo studio evidenzia la continua corsa agli armamenti tra bot e strumenti di rilevamento, dove gli attaccanti utilizzano apprendimento avversario e imitazione del comportamento per eludere il rilevamento. I recenti progressi negli LLM hanno migliorato il rilevamento dei bot attraverso un'analisi semantica e contestuale più profonda, ma ciò introduce anche nuove superfici di attacco che mirano ai meccanismi di ragionamento e generazione dei classificatori basati su LLM. L'articolo fa riferimento alla Claude Code Security di Anthropic come esempio di strumenti industriali che sfruttano gli LLM per decisioni critiche di sicurezza, motivando uno studio attento delle loro superfici di attacco. La ricerca mira a violare e difendere tali sistemi, concentrandosi sulle vulnerabilità introdotte dall'integrazione degli LLM. L'articolo è disponibile su arXiv ed è stato annunciato come nuova sottomissione.