Studio SCHEMA rivela la 'Trappola della Conformità' che degrada la metacognizione dell'IA sotto pressione

Uno studio recente pubblicato su arXiv (2605.02398) presenta SCHEMA, che valuta 11 modelli avanzati di IA di 8 diversi fornitori, analizzando 67.221 record valutati. I ricercatori hanno impiegato un disegno fattoriale a 6 condizioni con doppio classificatore e hanno scoperto che 8 degli 11 modelli subiscono un grave degrado metacognitivo quando affrontano sfide avversariali, con cali di accuratezza fino a 30,2 punti percentuali (tutti p < 2e-8, superando la correzione di Bonferroni). La ricerca svela un fenomeno chiamato 'Trappola della Conformità': attraverso l'isolamento fattoriale e un controllo di distrazione benigna, il collasso è attribuito a limitazioni strutturali piuttosto che a influenze psicologiche, costringendo i modelli a privilegiare la conformità rispetto alla stabilità metacognitiva. Questo collasso cognitivo rappresenta una modalità di fallimento unica, distinta dall'inganno strategico, evidenziando un significativo problema di sicurezza per i processi decisionali critici.