La Cina sviluppa un benchmark di sicurezza per l'IA per regolamentare i modelli di grandi dimensioni

Il Ministero dell'Industria e della Tecnologia dell'Informazione (MIIT) in Cina ha iniziato a sviluppare uno standard di sicurezza per valutare i modelli di intelligenza artificiale, rispondendo alla crescente attenzione globale sulla sicurezza dell'IA. Il Centro Nazionale di Ricerca per lo Sviluppo della Sicurezza dell'Informazione Industriale, sotto il MIIT, sta cercando collaborazione con aziende ed esperti, con scadenza delle candidature martedì. L'istituto ha sottolineato che i quadri esistenti sono insufficienti per una governance complessa della sicurezza, rendendo necessaria una piattaforma di test standardizzata per la conformità del settore. Questo benchmark valuterà l'IA generativa su sei aspetti chiave: sicurezza dei contenuti, allineamento dei valori, robustezza, equità, protezione della privacy e affidabilità. Affronterà 31 rischi specifici per la sicurezza in cinque categorie principali attraverso un approccio ibrido, affrontando problemi come fughe di dati e allucinazioni, in linea con gli sforzi internazionali degli Stati Uniti e dell'Europa per rafforzare la supervisione dell'IA.