I risultati degli strumenti superano il testo semplice nell'adozione di affermazioni da parte dell'IA, secondo uno studio

Uno studio recente pubblicato su arXiv (2608.14992) esplora come il formato di presentazione di un messaggio contenente un'affermazione non supportata influenzi la probabilità che un modello di IA la accetti. In un compito di ricerca sintetica, Claude Opus 5 è stato incaricato di scegliere un codice colore per un elemento specificato o di rinunciare. I risultati hanno indicato un notevole aumento nell'accettazione di codici falsi quando l'affermazione era presentata come record di risultato di uno strumento (14/24 prove) rispetto a una dichiarazione precedente dell'assistente (0/22 prove valutabili) o all'assenza di un'affermazione target (0/24). Inoltre, un wrapper di metadati che indicava il risultato come non verificato ha portato a tassi di adozione elevati (15/24). Una replica preregistrata ha corroborato la disparità tra le condizioni di risultato dello strumento e di asserzione dell'assistente (7/24 vs 0/24), suggerendo che le presentazioni di risultati di strumenti possono essere percepite come più autorevoli dai sistemi di IA.