I leader dell'IA chiedono di rallentare lo sviluppo delle frontiere dopo anni di rapidi progressi
Durante un recente fine settimana, figure di spicco di Anthropic, OpenAI, Alphabet e Microsoft hanno chiesto un approccio unificato alla regolamentazione dello sviluppo dell'IA di frontiera, segnalando un cambiamento drammatico rispetto alle precedenti tendenze competitive. Dario Amodei, CEO di Anthropic, ha avviato questo cambiamento con un saggio dettagliato di oltre 4.000 parole, sostenendo un rallentamento delle capacità dei modelli di IA per evitare una "corsa al ribasso" guidata da pressioni commerciali, che potrebbe aumentare i rischi catastrofici. Poco dopo, Sam Altman, co-fondatore e CEO di OpenAI, ha espresso il suo sostegno sui social media, menzionando discussioni in corso sul ritmo in OpenAI. Demis Hassabis, Chief Scientist di Alphabet e co-fondatore di Google DeepMind, ha approvato il saggio di Amodei e ha ribadito la sua richiesta di standard industriali. Il CEO di Microsoft Satya Nadella ha accolto con favore l'attenzione sul ritmo responsabile e sulla ricerca, in vista di un prossimo codice di condotta per un'"IA umanista". Questo cambiamento collettivo sottolinea le crescenti paure che l'IA di frontiera possa presto diventare incontrollabile e pericolosa.
Fatti principali
- Dario Amodei ha pubblicato un saggio di quasi 4.000 parole sostenendo che "dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA".
- Amodei ha avvertito di una "corsa al ribasso, spinta da incentivi commerciali" che può rendere più acuti i rischi catastrofici.
- Sam Altman ha pubblicato il suo accordo sui social media nel giro di poche ore e ha detto che discussioni simili sul ritmo erano in corso in OpenAI.
- Demis Hassabis ha detto che il saggio di Amodei "indica la giusta via da seguire" e ha rinnovato la sua richiesta di un organismo di standard a livello industriale.
- Satya Nadella ha pubblicato che Microsoft "accoglie con favore la ricerca, l'attenzione e il ritmo deliberato necessari per ottenere l'allineamento come obiettivo di progettazione".
- La dichiarazione di Microsoft è arrivata prima del rilascio di un lungo codice di condotta "IA umanista" per i suoi modelli.
- Il cambiamento segue anni in cui i principali laboratori di IA di frontiera hanno agito come se fossero in una corsa all-out, winner-take-all verso la superintelligenza o l'intelligenza artificiale generale.
- Il cambiamento di tono a livello industriale si è verificato in un solo fine settimana.
Entità
Artisti
Istituzioni
- Anthropic
- OpenAI
- Alphabet
- Google DeepMind
- Microsoft
- Ars Technica