Stuart Russell Testimonia nel Caso Musk contro OpenAI, Avverte della Corsa all'AGI

Durante il processo tra Elon Musk e OpenAI, Stuart Russell, professore di informatica all'Università della California, Berkeley e unico testimone esperto di IA, ha condiviso approfondimenti sui pericoli dell'intelligenza artificiale non regolamentata. Nel marzo 2023, ha co-firmato una lettera aperta che chiedeva una sospensione di sei mesi della ricerca sull'IA, che anche Musk ha appoggiato mentre fondava la sua impresa IA a scopo di lucro, xAI. Russell ha evidenziato vari rischi, come problemi di cybersicurezza, disallineamento e la natura competitiva dello sviluppo dell'Intelligenza Generale Artificiale (AGI), sottolineando il conflitto tra il perseguimento dell'AGI e la garanzia della sicurezza. Gli avvocati di OpenAI hanno limitato la testimonianza di Russell attraverso obiezioni, impedendo la discussione dei rischi esistenziali. Il processo si concentra sull'affermazione di Musk secondo cui OpenAI si è allontanata dalla sua missione originaria di ente di beneficenza dedicato alla sicurezza dell'IA. Questa situazione riflette una tensione più ampia tra i fondatori dell'IA che esprimono preoccupazioni sui rischi mentre contemporaneamente avanzano verso l'AGI, uno scenario riecheggiato dalla proposta di moratoria del senatore Bernie Sanders sulla costruzione di data center a causa di simili apprensioni.