Nuovo framework riduce la latenza dell'IA multi-agente a meno di due minuti con l'ottimizzazione dei token

Un nuovo preprint su arXiv evidenzia una notevole riduzione della latenza a freddo per i sistemi di intelligenza artificiale multi-agente, riducendola a un intervallo compreso tra 61 e 116 secondi, rispetto ai precedenti 3,5-10,5 minuti. Questo framework si basa su una dashboard interna che raccoglie attività strutturate da varie fonti come email, riunioni e chat, aiutando a condividere riassunti tra diversi flussi di lavoro. La ricerca identifica sei strategie chiave: stratificazione del contesto, configurazione fetch-once/process-locally, prompt contratti tramite schema, catene di fallback consapevoli dei token, caching semantico e compressione della comunicazione tra agenti, con una riduzione dei token del 60-70%. Include inoltre uno studio sulla composizione del contesto con 2.420 prove su 11 configurazioni di modelli, utilizzando 661 elementi di lavoro anonimizzati per valutare la rilevanza. Il preprint è disponibile su arXiv:2608.17188 (cross).