Rivisitare i classici esperimenti mentali per misurare la coscienza nell'IA per la sicurezza

Un nuovo studio su arXiv riprende il mulino di Leibniz, il gioco dell'imitazione di Turing e la stanza cinese di Searle utilizzando un quadro chiamato Conservation-Congruent Encoding (CCE). Questa ricerca introduce un ambiente simbolico di base in cui la prestazione del compito (W_causal,T) riflette azioni riuscite, mentre la coscienza operativa (κ_T) misura quanto bene la struttura interna supporta queste azioni. È interessante notare che sia un semplice metodo di ricerca che un approccio generativo compatto possono produrre risultati simili, ma variano notevolmente in κ_T; il primo si basa su un database in crescita di mappature inutilizzate, mentre il secondo utilizza una struttura interna semplificata. Questo lavoro ridefinisce le discussioni chiave sulla comprensione separando il comportamento esterno dall'organizzazione interna, essenziale per le future valutazioni di sicurezza dell'IA. L'articolo è elencato in Computer Science > Artificial Intelligence come arXiv: 2608.00001. Mira a fornire un modo formale per valutare la coscienza dell'IA, potenzialmente migliorando i protocolli di sicurezza, e include risorse come riferimenti e codice. Sebbene non offra conclusioni concrete, propone una distinzione importante per valutare gli stati interni dell'IA.