Doveri Fiduciari come Criteri di Allineamento per gli Assistenti IA

Un nuovo articolo su arXiv (2608.02660) propone che la teoria fiduciaria, derivata dall'etica aziendale e dalla dottrina giuridica, dovrebbe governare l'allineamento degli assistenti IA avanzati. L'autore sostiene che la relazione sviluppatore-utente nella triade utente-IA-sviluppatore è analoga a una relazione fiduciaria, dato il controllo discrezionale dello sviluppatore sul comportamento, la memoria e i parametri di coinvolgimento del sistema. L'articolo suggerisce che i quattro doveri fiduciari canonici—lealtà, cura, buona fede e franchezza—possono generare criteri di allineamento per l'implementazione estesa di assistenti IA. Questo approccio va oltre i quadri morali tradizionali come la bioetica e l'etica delle virtù, offrendo una base giuridica ed etica per l'allineamento dell'IA in ruoli come consulenza, supporto decisionale, collaborazione, apprendimento, supporto emotivo e compagnia. L'articolo è classificato come cross-announcement ed è stato pubblicato su arXiv.