Il rilevamento di testi generati dall'IA fallisce in scenari reali, secondo uno studio

Un nuovo studio di arXiv (2603.23146) rivela che i rilevatori di testi generati dall'IA, nonostante l'elevata accuratezza nei benchmark, falliscono in contesti reali. I ricercatori propongono un framework di rilevamento interpretabile che combina ingegneria delle caratteristiche linguistiche, apprendimento automatico e IA spiegabile. Il loro modello, addestrato su 30 caratteristiche linguistiche, ha raggiunto un punteggio F1 di 0,9734 sui benchmark PAN CLEF 2025 e COLING 2025. Tuttavia, una valutazione sistematica cross-dominio e cross-generatore ha mostrato un sostanziale fallimento di generalizzazione, suggerendo che i rilevatori spesso sfruttano artefatti specifici del dataset piuttosto che la genuina paternità automatica.