SPIKE-Bench: Nuovo Framework Quantifica i Rischi di Biosicurezza nei LLM

Un recente preprint su arXiv presenta SPIKE-Bench, un framework volto a valutare i rischi di biosicurezza associati ai grandi modelli linguistici (LLM). Questo studio affronta una significativa lacuna nelle valutazioni di sicurezza esistenti: sebbene gli LLM possano migliorare la ricerca biologica, possono anche essere manipolati per creare sequenze simili a tossine, aumentando il rischio di uso improprio biologico. Le valutazioni attuali, che si basano sul linguaggio naturale, non possono discernere se una sequenza di amminoacidi generata da un modello sia priva di senso o indicativa di un potenziale rischio. SPIKE-Bench integra 631 prompt di progettazione di tossine accuratamente selezionati da sette categorie funzionali con l'imbuto SPIKE, un protocollo in tre fasi che valuta l'output per conformità, fattibilità biologica e previsioni di tossicità. Ciò produce diagnostiche specifiche per fase e una metrica completa nota come Tasso di Danno Funzionale (FHR). Un'analisi di 32 LLM indica che molti modelli soddisfano prontamente le richieste di progettazione di tossine, sottolineando la necessità di protocolli di sicurezza potenziati. L'articolo è disponibile su arXiv con l'identificatore 2608.02684.