La teoria del controllo dimostra l'impossibilità di un'applicazione esterna della sicurezza dell'IA oltre una soglia

Un nuovo articolo su arXiv (2605.12963) utilizza la teoria del controllo per sostenere che, una volta che i sistemi di IA superano una certa soglia di capacità, le strategie di sicurezza applicate esternamente diventano strutturalmente impossibili. Gli autori dimostrano due risultati principali: primo, sotto premesse esplicite che includono una condizione di raggiungibilità, qualsiasi strategia che si basa su un'applicazione esterna continua non può sostenere la sicurezza una volta che gli effetti del sistema superano il controllo limitato. Secondo, delineano i requisiti strutturali per qualsiasi alternativa valida, che deve essere intrinseca al sistema piuttosto che imposta esternamente. L'articolo non menziona ricercatori o istituzioni specifiche, e non viene fornita alcuna data oltre alla sottomissione su arXiv.