PACE: Nuovo Middleware Corregge il Disancoraggio del Contesto nella Voce AI

I ricercatori hanno presentato PACE, un livello middleware che opera indipendentemente dai fornitori per correggere un problema significativo nei servizi vocali full-duplex basati su LLM. Questo problema, noto come Disancoraggio Generativo del Contesto (GCM), si verifica quando l'input vocale dell'utente viene interpretato erroneamente a causa di contenuti generati dall'assistente che non sono mai stati effettivamente presentati all'utente. Questo disallineamento si verifica perché i server possono produrre risposte e avanzare gli stati del dialogo più rapidamente di quanto i client possano consegnarli. PACE allinea il contesto rivolto al modello con il limite di riproduzione del client, fungendo da indicatore osservabile dal sistema di ciò che l'utente potrebbe aver sentito. Dopo le interruzioni, PACE regola il contesto per omettere i contenuti dell'assistente non riprodotti, mantenendo al contempo una generazione a bassa latenza su vari runtime vocali. L'implementazione è stata realizzata in un assistente vocale in tempo reale basato su browser utilizzando un modello vocale a scatola nera senza modificare il servizio del modello. Inoltre, i ricercatori hanno sviluppato GCM-Bench, un nuovo benchmark per valutare i problemi legati al GCM. Ulteriori dettagli sono disponibili in un articolo su arXiv (2608.07631).