Stati di Aggregazione Basati su Hash per Modelli Linguistici a Contesto Lungo

Un nuovo articolo su arXiv (2607.26448) introduce un'interfaccia di aggregazione lato modello che utilizza stati di sketch HyperLogLog (HLL) basati su hash per migliorare le prestazioni dei modelli linguistici a contesto lungo in compiti non additivi basati su insiemi, come la stima della cardinalità e le statistiche raggruppate. L'approccio mantiene stati HLL compatti da 2 KiB insieme a un modello linguistico congelato, con un estrattore che mappa i record a identità canoniche che aggiornano lo stato tramite hashing. Questi stati possono essere fusi tra segmenti di contesto o letti direttamente per il ragionamento, evitando un ciclo aggiuntivo di generate-esegui-restituisci. Il metodo affronta limitazioni note nei modelli a contesto lungo per compiti che coinvolgono log, output di programmi, tabelle e conversazioni multi-turno.