CockpitHAT: Quadro di Attribuzione Gerarchica per Cockpit Multi-Agente Embodied

Il nuovo framework, CockpitHAT, affronta il problema del Collasso di Correttezza nei sistemi multi-agente che utilizzano grandi modelli linguistici (LLM). Questo problema si verifica quando un'elevata accuratezza a livello di compito nasconde fallimenti significativi a livello di processo, il che è particolarmente pericoloso in ambienti critici per la sicurezza come i cockpit automobilistici. CockpitHAT sostituisce le finestre posizionali con soglie di distanza di dipendenza derivate da grafi aciclici diretti (DAG) di interazione, incorpora prove multi-canale tramite un adattatore embodied e migliora la sicurezza per guasti ad alto rischio durante il consenso degli analisti ponderato per la confidenza. Inoltre, gli autori presentano CockpitBench, un benchmark composto da 212 tracce di guasto annotate attraverso canali di dialogo, stato del veicolo, ambientali e di memoria, ciascuna valutata per la severità ASIL ISO 26262 da tre esperti. Questa ricerca è documentata in arXiv:2608.01805v1, pubblicato di recente.