AISPA: Sistema di Audit dei Prompt in 88 Prodotti Commerciali di IA

È stato introdotto un nuovo framework chiamato Artificial Intelligence System Prompt Assurance (AISPA) per auditare i prompt di sistema nelle applicazioni di IA. I prompt di sistema sono istruzioni configurate dagli sviluppatori che governano il comportamento del modello di IA, ma raramente vengono divulgati, creando lacune di fiducia e responsabilità. AISPA valuta i prompt lungo otto dimensioni rilevanti per l'utente ed è stato applicato a 3.249 istruzioni provenienti da 88 prodotti commerciali di IA. L'audit ha rilevato che la progettazione dei prompt varia ampiamente, con alcune organizzazioni che in media superano le 60 istruzioni protettive per prodotto. Il framework classifica le istruzioni come protettive o problematiche, con l'obiettivo di migliorare la trasparenza e la protezione degli utenti nell'implementazione dell'IA.