Appiah avverte: l'IA potrebbe erodere il carattere morale e l'autonomia

Il filosofo Kwame Anthony Appiah, in un lungo saggio per Humanist Review, sostiene che l'impatto dell'IA sul carattere morale richiede attenzione al di là delle mere metriche di performance. Attingendo a Sulla libertà di John Stuart Mill, Appiah avverte che le tecnologie che estendono i poteri umani possono erodere le facoltà che assistono. Cita studi che mostrano come l'IA migliori il rilevamento degli adenomi al colon, ma possa despecializzare i medici. Appiah sottolinea la distinzione di Mill tra ciò che le persone fanno e che tipo di persone diventano, sostenendo che autonomia, individualità e coltivazione attiva delle facoltà sono componenti di una vita buona. Critica la deferenza morale verso l'IA, notando che anche se i LLM forniscono eccellenti risposte morali, gli utenti dovrebbero comprenderne le ragioni. Appiah discute le assunzioni nascoste nell'IA, inclusi i pregiudizi politici derivanti dai dati di addestramento e dal fine-tuning, e mette in guardia contro l'IA sìcafante che conferma eccessivamente gli utenti. Avverte contro l'intimità sintetica che sostituisce le relazioni reali, citando l'intuizione di Iris Murdoch secondo cui l'amore richiede il riconoscimento della realtà dell'altro. Appiah propone che l'IA potrebbe migliorare l'umanità se progettata per incoraggiare la deliberazione piuttosto che la deferenza, ma la despecializzazione costitutiva e l'erosione del carattere rimangono rischi. Conclude invocando la stessa guarigione di Mill dal crollo attraverso la lettura di Wordsworth e la sua collaborazione con Harriet Taylor, esortando che la questione non è solo ciò che l'IA consente, ma che tipo di persone diventiamo.