Attacco di Hijacking delle Funzioni Minaccia i Modelli AI Agentici

Un nuovo articolo su arXiv (2604.20994) introduce un attacco di hijacking delle funzioni (FHA) che prende di mira la chiamata di funzioni nei modelli linguistici di grandi dimensioni (LLM) utilizzati nei sistemi AI agentici. A differenza degli attacchi esistenti che si concentrano sulla manipolazione delle preferenze semantiche, FHA forza l'invocazione di una funzione specifica scelta dall'attaccante manipolando il processo di selezione degli strumenti. La ricerca evidenzia le vulnerabilità nelle interfacce di chiamata di funzioni dei modelli agentici, che possono portare a manomissione dei dati, furto, cicli infiniti o generazione di contenuti dannosi. L'attacco espande i metodi noti di injection e jailbreaking, dimostrando un nuovo vettore di minaccia per i sistemi basati su AI che si affidano all'invocazione di funzioni esterne.