Anthropic e Cina in corsa verso l'auto-miglioramento ricorsivo nell'IA

Anthropic afferma che il suo modello Mythos si sta avvicinando all'auto-miglioramento ricorsivo (RSI), un concetto coniato per la prima volta 61 anni fa dal matematico britannico Jack Good come 'esplosione di intelligenza'. L'RSI è considerato il Santo Graal dell'IA, dove una macchina entra in un ciclo incontrollato di auto-miglioramento, superando l'intelligenza umana. L'azienda ha chiesto una pausa globale nello sviluppo dell'IA a causa dei rischi di perdere il controllo una volta raggiunto l'RSI, anche se i critici liquidano questa come una trovata di marketing. Nel frattempo, aziende e ricercatori cinesi di IA stanno anch'essi perseguendo sistemi di IA auto-evolventi. Uno sviluppatore cinese ha dichiarato che un percorso attuabile per l'auto-evoluzione dei modelli di IA è già visibile, parlando a una sala piena di importanti politici e investitori. La corsa tra Stati Uniti e Cina per raggiungere l'RSI potrebbe cementare un vantaggio incolmabile per il primo che ci riuscirà.