Studio Valuta i Difensori LLM Contro l'Ingegneria Sociale Generata dall'IA in Interazioni dal Vivo

Un recente articolo pubblicato su arXiv (2608.10239) esplora l'efficacia dei meccanismi di difesa basati su modelli linguistici di grandi dimensioni (LLM) nel proteggere gli utenti da attacchi di ingegneria sociale guidati dall'IA durante scambi in tempo reale, turno per turno. La ricerca introduce la 'localizzazione della catena di fiducia', un quadro che valuta se un'interazione fallisce a causa di autorità dell'attore, controllo delle risorse, adeguatezza della verifica o problemi nel percorso di transazione. Il team ha creato un dataset controllato comprendente 300 scenari abitativi online distribuiti su 20 famiglie, includendo esempi legittimi, quattro tipi di guasti strutturali e tre condizioni superficiali. Cinque modelli difensori sono stati testati su questo dataset in formati sia stateful che one-shot statici, portando a 1.500 valutazioni per protocollo, per un totale di 3.000. Sebbene nessun modello abbia mostrato una conformità esplicitamente non sicura, l'efficacia difensiva ha mostrato una variazione significativa, con tassi di intervento tra lo 0% e il 96,3%. I risultati sottolineano l'importanza di identificare le fonti di rischio strutturali piuttosto che rispondere semplicemente a indicatori superficiali.