ReClaim: Modello Fondamentale Addestrato su 43,8 Miliardi di Eventi Medici da 200 Milioni di Pazienti
Un team di ricercatori ha presentato ReClaim, un modello fondamentale generativo transformer creato da zero, utilizzando 43,8 miliardi di eventi medici provenienti da oltre 200 milioni di partecipanti nei dati di richieste di rimborso MarketScan dal 2008 al 2022. Questo modello, ampliato a 140 milioni, 700 milioni e 1,7 miliardi di parametri, cattura efficacemente i pattern longitudinali in diagnosi, procedure, farmaci e costi. In oltre 1.000 compiti relativi alla previsione dell'insorgenza di malattie, ReClaim ha registrato un AUC medio del 75,6%, superando significativamente il LightGBM specifico per malattia (66,3%) e il modello transformer Delphi. Questa ricerca, disponibile su arXiv (2605.02740), evidenzia il potenziale inesplorato delle richieste amministrative per i modelli fondamentali sanitari, con approfondimenti provenienti da dati reali su larga scala che influenzano sempre più le valutazioni normative e le decisioni sanitarie.
Fatti principali
- ReClaim è un transformer generativo addestrato da zero su 43,8 miliardi di eventi medici.
- I dati di addestramento provengono da oltre 200 milioni di iscritti nei dati di richieste di rimborso MarketScan (2008-2022).
- Il modello scala a 140 milioni, 700 milioni e 1,7 miliardi di parametri.
- Ha raggiunto un AUC medio del 75,6% in oltre 1.000 compiti di previsione dell'insorgenza di malattie.
- Supera il LightGBM specifico per malattia (66,3%) e il modello transformer Delphi.
- Le richieste amministrative forniscono registri longitudinali su scala di popolazione dell'utilizzo sanitario.
- Pubblicato su arXiv con identificativo 2605.02740.
- Mira a sbloccare evidenze dal mondo reale da richieste mediche nazionali.
Entità
Istituzioni
- MarketScan
- arXiv