Brex Lancia CrabTrap: Proxy HTTP con LLM-come-giudice per la Sicurezza degli Agenti AI

Brex ha introdotto CrabTrap, un sistema proxy HTTP che utilizza grandi modelli linguistici come giudici per proteggere gli agenti di intelligenza artificiale negli ambienti di produzione. Lo strumento intercetta ogni richiesta effettuata dagli agenti AI, le valuta rispetto a politiche definite e prende decisioni in tempo reale per consentire o bloccare queste richieste. La configurazione può essere completata entro 30 secondi utilizzando i comandi terminale forniti. Il sistema offre visibilità sul suo processo decisionale, registrando se ogni azione è risultata da corrispondenze di regole statiche o giudizi LLM. Gli utenti possono modificare le regole esistenti o crearne di nuove per testare le capacità di intercettazione di CrabTrap. Brex presenta questo sviluppo come ingegneria proattiva che affronta le lacune nell'ecosistema AI piuttosto che attendere l'emergere di soluzioni del settore. L'azienda sta attivamente reclutando ingegneri che condividono questo approccio costruttivo e di implementazione alla risoluzione dei problemi.