Gli assistenti alla lettura basati sull'IA rischiano lo 'spostamento interpretativo' in ambito accademico

Un recente studio pubblicato su arXiv introduce il concetto di 'guardrail epistemici' per mitigare i rischi associati agli assistenti alla lettura basati su modelli linguistici di grandi dimensioni (LLM) in situazioni interpretative. Gli autori sostengono che la preoccupazione principale è lo 'spostamento interpretativo', che comporta il trasferimento della responsabilità della costruzione del significato dal lettore al sistema, piuttosto che concentrarsi solo su errori o output non sicuri. Per esplorare questo fenomeno, i ricercatori hanno creato TextWalk, un prototipo di supporto alla lettura di base che funge da co-lettore anziché fornire semplicemente risposte. Lo studio ha utilizzato un protocollo fisso di dieci prompt su dodici testi analitici provenienti da quattro categorie di prosa argomentativa, progredendo dal supporto di base all'indagine interpretativa, consentendo così di esaminare i guardrail come tratti comportamentali osservabili nelle interazioni. L'obiettivo è stabilire limiti al ruolo dell'IA nella lettura e nell'interpretazione, fornendo un quadro per valutare la sicurezza epistemica negli strumenti di lettura potenziati dall'IA.