Il CEO di Anthropic chiarisce la posizione sui modelli AI open-weights

Il CEO di Anthropic, Dario Amodei, ha pubblicato un post chiarendo la posizione dell'azienda sui modelli AI open-weights, negando che Anthropic abbia mai sostenuto un divieto su tali modelli. Distingue due scenari da incubo: stati autoritari (soprattutto la Cina) che costruiscono AI più potenti per scopi militari o di sorveglianza, e l'uso improprio di modelli potenti per attacchi informatici o biologici. Amodei sostiene che vietare i modelli open-weights utilizzati dalle imprese statunitensi non affronta nessuna delle due minacce. Invece, supporta tre misure: limitare le vendite di chip alla Cina, reprimere la distillazione su scala industriale e richiedere test di sicurezza obbligatori per tutti i modelli sufficientemente capaci, aperti o chiusi. Nota che l'amministrazione Trump si è mossa verso tali test e che esistono proposte del settore per applicare i test indipendentemente dall'origine o dall'apertura. Amodei concorda con una lettera aperta che sostiene gli open-weights per ampliare l'accesso e la concorrenza, ma non è d'accordo sul fatto che gli open-weights aiutino necessariamente più i difensori che gli attaccanti, citando potenziali rischi biologici. Sottolinea che le questioni di sicurezza dovrebbero essere risolte con test empirici, non con supposizioni.