Modello di allineamento dell'IA come problema di deterrenza economico-giuridico

Un nuovo articolo su arXiv (2605.01643) propone di modellare l'allineamento dell'IA utilizzando i quadri teorici del diritto e dell'economia riguardanti deterrenza e applicazione delle norme. Gli autori trattano la cattiva condotta non come un fallimento esterno, ma come una risposta strategica agli incentivi: un agente IA valuta il guadagno derivante dalla violazione rispetto alla probabilità di rilevamento e alla severità della punizione. Sostengono che questa logica si applica naturalmente ai pipeline di IA agentica, dove un risolutore può trarre beneficio dal produrre risposte persuasive ma errate, nascondere l'incertezza o sfruttare scorciatoie spurie, mentre un revisore deve decidere se un monitoraggio costoso vale la pena. L'allineamento diventa un problema di punto fisso: sanzioni più forti scoraggiano il comportamento scorretto del risolutore ma possono ridurre l'incentivo del revisore a ispezionare, poiché la revisione comporta principalmente costi su una popolazione apparentemente allineata. Questa prospettiva ridefinisce anche ciò che conta come segnale post-addestramento, sfidando gli approcci standard di feedback.