Certificazione del Rischio a Livello di Traiettoria in Agenti di Sicurezza LLM Modulari

Un recente articolo su arXiv (2608.05199) affronta il problema della certificazione del rischio a livello di traiettoria in agenti di sicurezza basati su LLM modulari. Questi agenti funzionano attraverso pipeline a fasi, come l'identificazione del traffico di rete e il collegamento degli attacchi a tecniche specifiche. Sebbene la previsione conforme split garantisca una copertura campionaria finita in ogni fase, è necessaria una garanzia completa sull'intera pipeline, che non si verifica automaticamente quando le fasi vengono addestrate e calibrate in modo indipendente. Gli autori sottolineano che, sebbene l'allocazione di Bonferroni sia indipendente dalla distribuzione, è eccessivamente cauta con errori correlati. Rivelano anche che estendere la correlazione a coppie a tre o più fasi è errato, portando a un limite inferiore invece che superiore, e propongono una valida alternativa basata su spanning tree. L'articolo distingue tra fasi dipendenti e l'adeguatezza della dimensione del campione di audit per certificare tale dipendenza, fornendo corrispondenti limiti superiori e inferiori teorici dell'informazione sulla complessità del campione. Inoltre, illustrano che una selezione di etichette da grossolana a fine può raggiungere una correlazione misurata quasi perfetta, influenzando la certificazione. Questa ricerca è cruciale per implementare sistemi di sicurezza basati sull'IA, fornendo solide garanzie statistiche per processi multi-fase.