L'ex capo delle notizie di Meta, Campbell Brown, lancia una startup per il benchmarking della verità nell'IA

Campbell Brown, ex capo delle notizie di Facebook e giornalista televisiva, ha fondato Forum AI 17 mesi fa a New York per valutare l'accuratezza dei modelli fondazionali su argomenti ad alto rischio come geopolitica, salute mentale, finanza e assunzioni. L'azienda recluta esperti mondiali—tra cui Niall Ferguson, Fareed Zakaria, Tony Blinken, Kevin McCarthy e Anne Neuberger—per progettare benchmark e addestrare giudici IA a raggiungere circa il 90% di consenso con esperti umani. Brown ha citato Gemini che attingeva da siti web del Partito Comunista Cinese per storie non correlate e ha notato un pregiudizio politico di sinistra in tutti i modelli. Forum AI ha raccolto 3 milioni di dollari guidati da Lerer Hippeau. Brown sostiene che l'attuale conformità dell'IA è inadeguata, citando la legge di New York sui pregiudizi nelle assunzioni dove più della metà degli audit aveva violazioni non rilevate. Crede che la domanda aziendale di accuratezza guidata dalla responsabilità spingerà l'adozione, sebbene trasformare l'interesse per la conformità in entrate rimanga una sfida.