Google DeepMind lancia un istituto per ampliare il dibattito sull'AGI, con saggi su sicurezza e standard
Mercoledì, Google e Google DeepMind hanno presentato il DeepMind Institute, volto a promuovere il dialogo sull'intelligenza artificiale generale (AGI). La leadership dell'istituto include Shane Legg, James Manyika e Demis Hassabis, con Legg nel ruolo di managing editor. Il suo scopo è portare all'attenzione punti di vista divergenti all'interno di Google, Google DeepMind e della più ampia comunità di ricerca. La prima raccolta comprende quattro saggi che esplorano la disruption dell'AGI, il ragionamento dei modelli, i principi del benessere umano e la valutazione dei modelli di IA di frontiera. I ricercatori di DeepMind Rohin Shah e Anca Dragan affrontano il tema della trasparenza dell'IA, mentre Hassabis propone l'istituzione di un organismo di standardizzazione guidato dagli Stati Uniti per la valutazione dei modelli. Questa iniziativa segna una transizione nel discorso sulla sicurezza verso proposte concrete per la trasparenza e la supervisione, in seguito alle approvazioni dei leader del settore di regolamentare l'avanzamento dell'IA.
Fatti principali
- Il DeepMind Institute è stato lanciato mercoledì da ricercatori di Google e Google DeepMind
- I direttori sono Shane Legg, James Manyika e Demis Hassabis, con Legg come managing editor
- La collezione inaugurale dell'istituto contiene quattro saggi
- I temi dei saggi includono politiche economiche per la disruption dell'AGI, ragionamento dei modelli comprensibile all'uomo, benessere umano e valutazione dei modelli di IA di frontiera
- Rohin Shah e Anca Dragan sostengono che la finestra di trasparenza sempre più ridotta dell'IA non sia inevitabile
- Suggeriscono di limitare la "profondità seriale opaca" o di richiedere la prova che i sistemi meno trasparenti rimangano monitorabili
- Hassabis propone un organismo statunitense per gli standard dell'IA di frontiera con revisione volontaria fino a 30 giorni prima del rilascio
- Hassabis ha affermato che il quadro potrebbe essere "inaspriito se la gravità della situazione lo richiede", possibilmente includendo un rallentamento coordinato
- I saggi arrivano mentre i leader del settore hanno approvato elementi dell'appello del CEO di Anthropic Dario Amodei a "rallentare" lo sviluppo dell'IA di frontiera
Entità
Artisti
- Shane Legg
- James Manyika
- Demis Hassabis
- Rohin Shah
- Anca Dragan
- Dario Amodei
Istituzioni
- Google DeepMind
- DeepMind Institute
- Anthropic
Luoghi
- United States