Esempi Avversari che Ingannano gli Umani ma non i Modelli di IA

Una recente indagine pubblicata su arXiv (2607.22722) esplora esempi avversari facilmente identificabili dagli umani ma che non ingannano i sistemi di IA. A differenza delle strategie avversarie convenzionali che introducono sottili alterazioni per indurre errori, questo studio si concentra su modifiche significative e vistose che mantengono le previsioni accurate del modello mentre confondono gli osservatori umani. I ricercatori affrontano tre domande chiave: se gli umani hanno più difficoltà del modello con questi esempi, se le tecniche standard di rilevamento out-of-distribution (OOD) e calibrazione li identificano, e se le difese attuali sono efficaci contro di essi. Test condotti su MNIST, CIFAR-10 e ImageNet rivelano che l'accuratezza di un proxy riconoscitore indipendente crolla a circa il 49% su CIFAR-10, mentre il modello raggiunge il 100%. Questa discrepanza è supportata da un piccolo studio pilota umano (N=5) e non è attribuita a perdita di segnale, poiché un controllo gaussiano di magnitudo corrispondente riduce la riconoscibilità più rapidamente. Un proxy zero-shot CLIP conferma ulteriormente questo divario alla scala di ImageNet, e la ricerca valuta anche approcci di rilevamento OOD basati su confidenza ed energia.