Sistemi nativi AI definiti dall'autorità di revisione autonoma

Un recente articolo su arXiv offre una definizione tecnica chiara per i sistemi "nativi AI", andando oltre il semplice gergo di marketing. Gli autori si concentrano su un aspetto singolare: l'autorità che un sistema ha sulle proprie decisioni, in particolare l'autorità di revisione, che si riferisce alla capacità di alterare le implementazioni del sistema. Distinguono tra chi prende una decisione (occupazione) e l'autorità di revisione, categorizzando quest'ultima in una gerarchia: auto-ottimizzazione, auto-riscrittura e auto-architettura. Un sistema nativo AI è caratterizzato dalla capacità di un'IA di modificare autonomamente le proprie implementazioni. Inoltre, la definizione include la necessità di un rilevatore di escalation, una procedura di verifica e un fallback verificato, garantendo che scopo e correttezza rimangano sotto controllo umano. Questo articolo cerca di fornire chiarezza su un termine che in precedenza mancava di specificità tecnica, mentre gli agenti AI sintetizzano, verificano e distribuiscono sempre più componenti di sistema.