La teoria della scelta sociale offre un quadro per il controllo collettivo dell'IA
Un nuovo articolo propone un approccio basato sulla scelta sociale per il controllo collettivo dell'intelligenza artificiale, sostenendo che l'input democratico dovrebbe essere integrato in tutto il pipeline di machine learning, dalla raccolta dei dati all'allineamento. Gli autori dimostrano che la teoria della scelta sociale fornisce un linguaggio di modellazione matematicamente fondato e criteri assiomatici per valutare i meccanismi di controllo. Il lavoro affronta l'urgente necessità di una supervisione sociale dei sistemi di IA al di là della governance a livello macro.
Fatti principali
- Articolo intitolato 'AI del popolo, dal popolo, per il popolo: un approccio di scelta sociale al controllo collettivo dell'intelligenza artificiale'
- Propone il controllo collettivo dell'IA basato sulla teoria della scelta sociale
- Sostiene l'incorporazione dell'input collettivo in più punti del pipeline di sviluppo del ML
- Dimostra la scelta sociale come linguaggio di modellazione per l'input collettivo
- Utilizza una metodologia assiomatica per valutare i meccanismi di controllo
- Pubblicato su arXiv sotto Computer Science > Computers and Society
- Cronologia delle sottomissioni disponibile su arXiv
- Il contesto di navigazione corrente include riferimenti e citazioni
Entità
Istituzioni
- arXiv