Coscienza Meccanica: Un Quadro per un'Intelligenza Macchina Affidabile
Un nuovo concetto matematico noto come coscienza meccanica (MC) è stato proposto per affrontare i rischi emergenti nei sistemi di intelligenza collaborativa distribuita (DCI), che comprendono framework edge-to-edge, apprendimento federato, apprendimento per trasferimento e sistemi sciame. Questo studio sostiene che, sebbene i singoli agenti possano prendere decisioni localmente valide, queste possono portare a risultati globalmente inaccettabili in presenza di incertezza. Gli approcci attuali, come l'ottimizzazione vincolata, l'apprendimento per rinforzo sicuro e la garanzia runtime, valutano le azioni in isolamento e non affrontano efficacemente scenari DCI multi-partecipante pieni di incertezza. La MC agisce come un filtro di supervisione che apporta modifiche minime a una politica di base, garantendo una regolamentazione normativa a livello di traiettoria sia per sistemi a singolo agente che distribuiti. Questa ricerca è disponibile su arXiv con ID 2605.03847v1.
Fatti principali
- 1. La coscienza meccanica (MC) è un nuovo concetto per la regolamentazione normativa a livello di traiettoria.
- 2. L'intelligenza collaborativa distribuita include sistemi edge-to-edge, apprendimento federato, apprendimento per trasferimento e sistemi sciame.
- 3. Il rischio emergente è strutturalmente inevitabile nella DCI a causa di decisioni localmente corrette che compongono traiettorie globalmente inaccettabili.
- 4. Gli approcci esistenti valutano l'accettabilità a livello di singole azioni.
- 5. La MC è un filtro di supervisione che corregge minimamente una politica di base.
- 6. L'articolo affronta sia sistemi a singolo agente che sistemi intelligenti distribuiti.
- 7. La ricerca è pubblicata su arXiv con ID 2605.03847v1.
- 8. L'articolo introduce un quadro matematico semplificato per la MC.
Entità
Istituzioni
- arXiv