Kalypso: Servizio LLM Relazionale per l'Elaborazione di Query Semantiche

Un recente preprint su arXiv (2607.23815) presenta Kalypso, un sistema per il servizio LLM relazionale volto a migliorare l'elaborazione di query semantiche. I modelli linguistici di grandi dimensioni sono sempre più utilizzati come operatori semantici per vari compiti, tra cui filtraggio, estrazione, ranking, join e trasformazione di dati non strutturati. Gli attuali sistemi per l'elaborazione di query semantiche spesso dipendono da un servizio LLM incentrato sulle richieste, che non considera il piano di query, con conseguente perdita di miglioramenti delle prestazioni. Kalypso introduce un concetto noto come servizio LLM relazionale, che garantisce che il servizio LLM sia consapevole della struttura semantica delle query mantenendo la semantica delle query e la precisione dell'output. La sua innovazione principale prevede l'esecuzione in pipeline tra operatori semantici, consentendo il riutilizzo degli stati della cache KV da tuple intermedie piuttosto che ricalcolarli. Kalypso offre anche un'API per piani di query semantici e impiega un algoritmo di pianificazione adattivo e sensibile alla memoria per affrontare una nuova sfida di pianificazione online che ottimizza l'esecuzione degli operatori in pipeline. Il documento è stato rivisto (replace-cross).