Routing Consapevole del Budget per Testi Clinici Lunghi

Uno studio recente introduce RCD, un obiettivo submodulare monotono per la selezione contestuale con budget per modelli linguistici di grandi dimensioni che gestiscono testi clinici lunghi. Questo approccio affronta i vincoli relativi ai costi dei token e alla latenza scegliendo un numero limitato di unità documentali entro un budget definito. I ricercatori valutano vari metodi di unitizzazione, tra cui approcci basati su frasi, sezioni, finestre e cluster, e presentano un'euristica di routing che si adatta alle condizioni di budget. I risultati degli esperimenti condotti su note di dimissione MIMIC, abstract Cochrane e L-Eval indicano che le strategie più efficaci variano a seconda del contesto di valutazione.