Import AI 458: Confrontarsi con il futuro e una storia di singolarità

La conferenza Cosmos HAI Lab del 2026, tenuta presso il Human-Centered AI Lab (HAI Lab) all'interno dell'Istituto per l'Etica nell'IA dell'Università di Oxford in collaborazione con il Cosmos Institute, esplora le implicazioni del rapido progresso dell'IA. Il relatore, co-fondatore di Anthropic, sostiene che l'IA non è una tecnologia normale e che la società deve scegliere tra 'esplorare il futuro' o 'ritirarsi dal presente.' La conferenza fa riferimento all'Epoch Capabilities Index (ECI) per illustrare l'accelerazione dei benchmark dell'IA: l'IA ha superato l'esame di abilitazione forense nel marzo 2023, ha ottenuto l'argento alle Olimpiadi Internazionali di Matematica (luglio 2024) e l'oro (luglio 2025), ha co-autorato dimostrazioni matematiche (2025), e sistemi come Claude Mythos hanno trovato nuove vulnerabilità software. Il relatore prevede che l'IA potrebbe raggiungere l'auto-miglioramento ricorsivo entro due anni, portando a aziende autonome, scoperte di livello Nobel da team umano-IA (aprile 2027) e robot bipedi che svolgono lavori utili (aprile 2028). In Anthropic, il rilascio di Opus 4.6 alla fine del 2025 ha portato la maggior parte del codice a essere scritto da Claude, un passaggio verso livelli di verifica e una nuova 'economia della fiducia.' Le assunzioni ora favoriscono esperti di LLM all'inizio della carriera e visionari esperti. La conferenza include una storia di fantasia, 'As I Lay Dreaming,' su una famiglia che usa l'estensione della vita e l'IA per far rivivere una figlia in sospensione durante 'The Uplift.' Il discorso è stato tenuto mercoledì 20 maggio 2026 all'Università di Oxford, a cura di Santi Ruiz.