Goodfire lancia Silico, uno strumento di interpretabilità meccanicistica per il debugging degli LLM

Goodfire, una startup con sede a San Francisco, ha introdotto Silico, uno strumento progettato per ricercatori per esaminare e modificare i parametri dei modelli di IA durante il processo di addestramento. Commercializzato come la prima soluzione completa di debugging per ogni fase dello sviluppo, Silico mira a migliorare la natura scientifica della creazione di modelli di IA. Il CEO Eric Ho ha sottolineato che, contrariamente alla convinzione comune che l'AGI sia guidata dalla scala e dai dati, Goodfire promuove una strategia più efficace. Insieme ad Anthropic, OpenAI e Google DeepMind, Goodfire sta spingendo avanti l'interpretabilità meccanicistica. Silico semplifica i compiti di interpretabilità, consentendo agli utenti di regolare neuroni specifici e filtrare i dati di addestramento, riducendo con successo le allucinazioni negli LLM. Il ricercatore Leonard Bereska ha riconosciuto i benefici di Silico ma ha notato che migliora piuttosto che rivoluzionare il processo, in particolare per i settori critici per la sicurezza.