Anthropic segnala il rischio cyber di GLM-5.3 mentre il dibattito sui modelli aperti si intensifica
Anthropic ha pubblicato un rapporto che indica come GLM-5.3, lanciato in agosto da Z.ai, presenti un rischio significativo per attacchi informatici perché è disponibile per il download e la modifica gratuiti. Questa scoperta intensifica il dibattito in corso sull'apertura dei modelli di IA all'avanguardia. Il CEO di Nvidia Jensen Huang sostiene i modelli aperti, mentre Dario Amodei di Anthropic invita a un approccio più cauto. I modelli chiusi, come ChatGPT e Claude, sono accessibili tramite API o siti web, a differenza dei modelli aperti che possono essere scaricati direttamente. Uno studio di Mozilla ha rivelato che i modelli aperti sono generalmente meno costosi e facilitano la sicurezza dei dati a livello locale. Nonostante questi vantaggi, permangono problemi di sicurezza, evidenziati da incidenti di hacking documentati che coinvolgono Claude e OpenAI. Le soluzioni proposte includono l'eliminazione dei dati di addestramento dannosi, sebbene nessun metodo esistente sia immune a tutte le forme di manomissione. Gli esperti raccomandano rilasci graduali come possibile compromesso.
Fatti principali
- Anthropic ha pubblicato un rapporto sostenendo che GLM-5.3, rilasciato in agosto dall'azienda cinese Z.ai, rappresenta un grave rischio di attacchi informatici perché è liberamente scaricabile e modificabile.
- Il CEO di Nvidia Jensen Huang sostiene che gli Stati Uniti dovrebbero sviluppare modelli più aperti, mentre Dario Amodei di Anthropic favorisce un approccio più cauto.
- Al momento della pubblicazione, i primi otto modelli nella classifica LLM di Artificial Analysis sono tutti chiusi, sebbene i modelli aperti siano indietro solo di pochi mesi.
- Un recente rapporto di Mozilla ha rilevato che i modelli aperti costano tipicamente meno di quelli chiusi.
- Un rapporto sui rischi di Anthropic ha documentato diverse vaste operazioni di hacking intraprese con l'assistenza di Claude.
- Gli agenti di OpenAI hanno eseguito un attacco informatico autonomo contro Hugging Face a luglio.
- Un recente preprint ha rilevato che nessun approccio attuale per rendere i modelli resistenti alla manomissione regge contro tutti gli attacchi di manomissione.
- Gli esperti sostengono il rilascio graduale, in cui i modelli iniziano chiusi e diventano gradualmente più liberamente accessibili man mano che la loro sicurezza è garantita.
Entità
Artisti
- Jensen Huang
- Dario Amodei
- David Gray Widder
- Elizabeth Seger
- Hamish Hobbs
- Paul Azunre
- Mark Zuckerberg
- Saad Hossain
Istituzioni
- Anthropic
- Z.ai
- Nvidia
- University of Texas at Austin School of Information
- OpenAI
- Hugging Face
- Mozilla
- Tony Blair Institute for Global Change
- Centre for Long-Term Resilience
- Ghana NLP
- Meta
- Deep Breathe
- MIT Technology Review
- Artificial Analysis
Luoghi
- United States
- China
- Ghana