Google DeepMind amplia la partnership sulla sicurezza dell'IA con l'UK AI Security Institute

Google DeepMind ha rafforzato la sua collaborazione con l'UK AI Security Institute (AISI) firmando un nuovo Memorandum d'Intesa finalizzato a far progredire la ricerca fondamentale in materia di sicurezza. Questa partnership, iniziata nel novembre 2023, ora comprende una gamma più ampia di argomenti di ricerca, tra cui il monitoraggio del ragionamento dell'IA, l'esplorazione del disallineamento socioaffettivo e la simulazione di sistemi economici. La collaborazione prevede lo scambio di modelli, dati e concetti, insieme alla creazione di rapporti congiunti e sforzi di ricerca cooperativi. Figure di spicco in questa iniziativa includono William Isaac e Owen Larter. Questo sforzo si basa su precedenti collaborazioni con AISI, OpenAI e Anthropic. L'approccio alla sicurezza di Google DeepMind incorpora ricerca prospettica, formazione sulla sicurezza e strumenti di mitigazione del rischio, collaborando con esperti come Apollo Research e Dreadnode per promuovere uno sviluppo sicuro dell'IA.