Modulo di Percezione AI Affidabile per la Guida Autonoma
I ricercatori propongono un modulo di percezione AI affidabile per la guida autonoma che integra robustezza, spiegabilità e stima dell'incertezza. Basato su un rilevatore basato su transformer, il modulo deriva spiegazioni dai meccanismi di attenzione al momento dell'inferenza e le convalida tramite test di consistenza basati su perturbazioni. Include anche la calibrazione dell'incertezza e metodi di addestramento che migliorano la robustezza. Gli esperimenti dimostrano un comportamento di salienza fedele, una robustezza migliorata e un'incertezza ben calibrata. Il lavoro colma il divario tra le linee guida teoriche per l'AI affidabile e le implementazioni concrete per la comprensione di scene 3D.
Fatti principali
- Le reti neurali profonde dominano la percezione nella guida autonoma ma mancano di trasparenza.
- I framework esistenti per l'AI affidabile sono per lo più teorici per la comprensione di scene 3D.
- Il modulo proposto utilizza un rilevatore basato su transformer.
- Le spiegazioni sono derivate dai meccanismi di attenzione al momento dell'inferenza.
- La fedeltà è convalidata tramite test di consistenza basati su perturbazioni.
- È integrato un modulo di stima e calibrazione dell'incertezza.
- Vengono applicati metodi di addestramento che migliorano la robustezza.
- Gli esperimenti mostrano salienza fedele, robustezza migliorata e incertezza ben calibrata.
Entità
Istituzioni
- arXiv