Rose 1 riduce i token di input LLM del 70% senza perdita di qualità

Adola ha lanciato Rose 1, uno strumento di compressione del contesto che riduce i token di input LLM del 70% mantenendo la qualità delle risposte. Lo strumento elimina il contesto rumoroso come note duplicate, vecchi snippet di ricerca e cronologia non correlata prima di una chiamata al modello, conservando solo elementi essenziali come schema, eccezioni alle policy, livello dell'account e tracce di citazioni. Rose 1 è progettato per casi d'uso in cui il contesto si accumula, tra cui tracce di agenti, recupero, gateway di prompt e copiloti di supporto. Può comprimere la cronologia dei ticket, i documenti delle policy e il contesto dell'account, e funziona su verifiche di ragionamento, scienza e matematica senza alcuna perdita di performance misurata. Gli utenti possono creare un workspace, generare una chiave di progetto e utilizzare il playground per misurare i risultati.