ARTFEED — Contemporary Art Intelligence

Contratto di Osservabilità a Runtime per Memoria di Attenzione Eterogenea

ai-technology · 2026-08-07

Un nuovo articolo arXiv (2608.05863) introduce un contratto di osservabilità a runtime per la memoria di attenzione eterogenea nei moderni modelli di intelligenza artificiale. Il contratto copre quattro classi di memoria—cache latenti, selettori sparsi appresi, stati ricorrenti e cache KV semplici—utilizzando tre operatori. Viene istanziato su sei configurazioni di modelli in cinque famiglie di architetture, componendo i limiti per stadio in un registro di rischio eseguibile a livello di richiesta. Il contratto trasporta metriche di errore come tipi, garantendo la composizione solo quando le metriche corrispondono; la catena composta iniziale degli autori è stata respinta, e la catena riparata utilizza due ponti provati per attraversare le metriche. Le affermazioni sono certificate, parzialmente certificate o empiriche, con la composizione che eredita il livello più debole, deciso automaticamente dalla macchina. L'articolo riporta risultati riprodotti su $12.4$ (probabilmente un dataset o benchmark). Questo lavoro affronta la sfida di monitorare e garantire l'affidabilità in modelli con diversi meccanismi di memoria, che falliscono in modo diverso sotto compressione.

Fatti principali

  • L'articolo arXiv:2608.05863 introduce un contratto di osservabilità a runtime per la memoria di attenzione eterogenea.
  • Il contratto copre quattro classi di memoria: cache latenti, selettori sparsi appresi, stati ricorrenti e cache KV semplici.
  • Utilizza tre operatori per istanziare il contratto su sei configurazioni di modelli in cinque famiglie di architetture.
  • I limiti per stadio sono composti in un registro di rischio eseguibile a livello di richiesta.
  • Le metriche di errore sono trasportate come tipi, e la composizione è definita solo quando le metriche corrispondono.
  • La prima catena composta dagli autori è stata respinta a causa di una mancata corrispondenza delle metriche; la catena riparata utilizza due ponti provati.
  • Le affermazioni sono certificate, parzialmente certificate o empiriche, con la composizione che eredita il livello più debole.
  • I risultati sono stati riprodotti su $12.4$ (probabilmente un dataset o benchmark).

Entità

Istituzioni

  • arXiv

Fonti