L'analisi AI può legittimare idee deboli, sostiene un'opinione

Un articolo di opinione pubblicato dal South China Morning Post sostiene che l'analisi AI prontamente disponibile può conferire a idee deboli una credibilità che non hanno guadagnato. L'autore argomenta che i decisori devono prima formulare correttamente la domanda prima di esaminare qualsiasi risposta prodotta da tali strumenti. L'argomentazione è illustrata attraverso un focus group condotto anni fa sulle scelte di assicurazione auto. Ai partecipanti è stato chiesto cosa contasse nella scelta dell'assicurazione auto; il prezzo si è classificato primo, la franchigia è venuta dopo, e la reputazione non è apparsa affatto. Durante una pausa caffè, l'autore ha chiesto all'intervistatore di cambiare la domanda, chiedendo quanto più economico dovesse essere un assicuratore meno prestigioso prima che i partecipanti cambiassero. Un partecipante che aveva classificato il prezzo al primo posto solo 15 minuti prima ha detto che nessuno sconto era abbastanza grande. Secondo l'autore, nulla è cambiato se non il modo in cui è stata posta la domanda, e qualcosa di precedentemente non menzionato era diventato non negoziabile. La prima risposta non era disonesta, scrive l'autore, perché rispondeva alla domanda posta; la seconda risposta ha rivelato ciò che la prima non poteva. L'articolo usa questo episodio per avvertire che l'analisi generata dall'AI, rispondendo alla domanda come formulata, può conferire una legittimità non guadagnata a idee mal concepite invece di sfidare la premessa alla base di esse.