Prova Formale di Governance per Workflow AI Senza Perdita di Espressività
Un nuovo studio pubblicato su arXiv (2605.01030) rivela che è possibile applicare una governance a livello di effetti alle architetture dei workflow AI senza perdere la loro capacità di eseguire calcoli complessi. I ricercatori introducono un operatore di governance chiamato G utilizzando Interaction Trees in Rocq 8.19, che supervisiona azioni come accesso alla memoria, chiamate esterne e query agli oracoli (LLM). Questo lavoro consiste in 36 moduli e circa 12.000 righe di codice Rocq, insieme a 454 teoremi e nessun lemma ammesso. Vengono evidenziate sette proprietà importanti, tra cui la completezza di Turing governata e l'espressività degli oracoli, un confine per la decidibilità con predicati di governance totali e la conservazione degli obiettivi durante le esecuzioni consentite.
Fatti principali
- 1. Il paper arXiv:2605.01030 presenta una prova formale di governance per workflow AI.
- 2. L'operatore di governance G media tutte le direttive effettive, incluse le query LLM.
- 3. La prova utilizza Interaction Trees in Rocq 8.19 con 0 lemmi ammessi.
- 4. Lo sviluppo include 36 moduli, ~12.000 righe di Rocq e 454 teoremi.
- 5. Sette proprietà stabilite, tra cui completezza di Turing governata ed espressività degli oracoli.
- 6. Confine di decidibilità: predicati di governance totali e chiusi sotto composizione booleana.
- 7. Le proprietà semantiche del programma rimangono non banali e indecidibili dalla governance.
- 8. Minimalità espressiva delle capacità primitive: calcolo, memoria, ragionamento, chiamata esterna, osservabilità.
Entità
Istituzioni
- arXiv