Studio non trova legame tra fiducia e verifica AI nell'uso dei chatbot

Uno studio recente pubblicato su arXiv contesta la visione tradizionale secondo cui la verifica degli output dei sistemi AI si basa sulla fiducia. Questa ricerca, basata su un'indagine a metodi misti che ha coinvolto 153 utenti abituali di chatbot, non ha scoperto alcun legame significativo tra fiducia e verifica, con risultati che rimangono coerenti in vari controlli di sensibilità. Lo studio evidenzia tre pratiche degli utenti—raffinamento, correzione e approvazione prima di azioni automatizzate—che sono ampiamente accettate e correlano positivamente con la soddisfazione dell'utente. Distingue tra supervisione valutativa, debolmente correlata alla soddisfazione, e supervisione interventista, che mostra una forte connessione con la soddisfazione. Un divario medio-grande nel controllo della soddisfazione indica che risultati positivi del compito non equivalgono a un senso percepito di agentività, suggerendo la necessità di considerare la verifica come una governance epistemica di routine anziché un'azione dipendente dalla fiducia.