Divario Strutturale nei Quadri di Governance dell'IA Comportamentale

Una recente pubblicazione su arXiv (2604.27292) evidenzia un problema strutturale critico nella governance dell'IA comportamentale. Gli autori identificano due confini chiave per qualsiasi sistema: l'espressività (le sue capacità) e la governance (l'ambito della governance). Nella maggior parte dei sistemi di IA operativi, questi confini sono determinati separatamente, portando a tre aree distinte: capacità governate (l'unica area vantaggiosa), capacità non governate (che comportano rischi) e politiche di governance per capacità inesistenti (teatro). Due di queste aree indicano modalità di fallimento. Il focus dell'articolo è sulla governance degli effetti—azioni compiute dai sistemi di IA nel mondo reale (come chiamate API, voci di database e utilizzi di strumenti)—in contrapposizione alla governance degli output del modello (come qualità dei contenuti, bias ed equità). Gli autori introducono un quadro formale per analizzare questa discrepanza, facendo riferimento al teorema di Rice (1953), che dimostra che il divario è indecidibile per qualsiasi architettura Turing-completa che tenti di governare gli effetti comportamentalmente.