RSI: La Nuova Parola d'Ordine dell'AGI nella Ricerca sull'IA
Il miglioramento ricorsivo di sé (RSI) è diventato l'ultimo termine alla moda nell'IA, con startup come Recursive Superintelligence, fondata da Richard Socher, che lo perseguono esplicitamente. Il progetto Auto-Research di Alex Karpathy utilizza sciami di agenti per addestrare LLM su compiti semplici, mentre Adaption, fondata da Sara Hooker, ha lanciato AutoScientist per automatizzare l'addestramento all'avanguardia. L'agente auto-addestrato di Doris Xin di Disarray ha vinto 28 medaglie in una competizione Kaggle. L'amministratore delegato di Google Sundar Pichai ha riconosciuto i progressi ma ha dichiarato che l'RSI non è ancora stato raggiunto. Claude Code di Anthropic ha scritto quasi il 100% del codice del suo team, e un sondaggio ha indicato che cinque dei 18 ingegneri credevano che Mythos potesse sostituire un ingegnere L4. Tuttavia, permangono debolezze nell'autodirezione. Helen Toner del CSET distingue l'RSI dal semplice utilizzo di strumenti di IA, citando le tappe fondamentali di Ayeja Cotra: adeguatezza, parità e supremazia. Cotra prevede l'adeguatezza entro un paio d'anni e la supremazia entro un anno dalla parità. Toner nota che il ridimensionamento dell'RSI affronta sfide ingegneristiche e di allineamento, e come l'AGI, l'RSI completo non è ancora stato realizzato.
Fatti principali
- RSI sta per Recursive Self-Improvement, un concetto in cui l'IA si aggiorna continuamente.
- Richard Socher ha lanciato Recursive Superintelligence con l'RSI come obiettivo esplicito.
- Alex Karpathy sta lavorando su Auto-Research utilizzando sciami di agenti per addestrare LLM su compiti semplici.
- Sara Hooker di Adaption ha lanciato AutoScientist per automatizzare l'addestramento all'avanguardia.
- L'agente di machine learning auto-addestrato di Doris Xin ha vinto 28 medaglie in una competizione Kaggle.
- L'amministratore delegato di Google Sundar Pichai ha affermato che l'RSI rappresenta un livello successivo di accelerazione ma non è ancora stato raggiunto.
- Claude Code di Anthropic ha scritto quasi il 100% del codice del suo team, e cinque dei 18 ingegneri credevano che Mythos potesse sostituire un ingegnere L4.
- Helen Toner del CSET distingue l'RSI dal semplice utilizzo di strumenti di IA, citando le tappe fondamentali di Ayeja Cotra: adeguatezza, parità e supremazia.
Entità
Istituzioni
- Recursive Superintelligence
- TechCrunch
- Tesla
- OpenAI
- Anthropic
- Cohere
- Adaption
- Disarray
- Kaggle
- Georgetown's Center for Security and Emerging Technology (CSET)
- METR