Esperti di sicurezza AI avvertono di rischi catastrofici in vista del vertice Xi-Trump

Giovedì, Paul Christiano, un ricercatore chiave sulla sicurezza dell'IA che recentemente è diventato membro del consiglio non-profit di OpenAI e del suo comitato per la sicurezza, ha espresso preoccupazioni riguardo a una potenziale "perdita catastrofica e irreversibile di controllo" nel prossimo futuro a causa dell'attuale traiettoria della tecnologia IA. Le sue osservazioni coincidono con le crescenti paure tra gli esperti riguardo a un imminente grave incidente di cybersecurity nella Silicon Valley, aggravate dalle tese relazioni USA-Cina che stanno influenzando i colloqui sulla sicurezza dell'IA in vista del vertice Xi-Trump. Un rapporto di Bloomberg di venerdì ha indicato che il CEO di OpenAI Sam Altman ha informato il personale sulla possibilità di rallentare lo sviluppo dell'IA, potenzialmente in collaborazione con altri laboratori leader, sebbene alcuni potrebbero optare per non partecipare. Julie Steele di OpenAI ha criticato i leader del settore per perseguire imprudentemente una superintelligenza auto-migliorante, sottolineando l'urgente necessità di misure di sicurezza in mezzo ai rapidi progressi.