Il Framework PRISM Propone Linee Rosse per la Sicurezza dell'IA Basate su Gerarchie

Uno studio recente presenta il framework PRISM (Profile-based Reasoning Integrity Stack Measurement), che trasforma la sicurezza dell'IA da linee rosse specifiche a una metodologia più fondamentale e guidata da gerarchie. Gli autori sostengono che, esaminando come i sistemi di IA diano priorità ai valori, valutino i tipi di evidenza e analizzino le fonti di informazione, sia possibile identificare modelli di ragionamento pericolosi prima che portino a esiti dannosi. PRISM delinea 27 indicatori di rischio comportamentale basati su irregolarità strutturali attraverso tre livelli gerarchici: priorità dei valori (L4), ponderazione delle evidenze (L3) e fiducia nelle fonti (L2). Ogni indicatore viene valutato utilizzando un principio a doppia soglia che combina la posizione assoluta nella classifica e il divario del tasso di successo relativo, risultando in una classificazione di Rischio Confermato rispetto a Segnale di Monitoraggio. Questa strategia proattiva offre tre vantaggi significativi rispetto ai metodi reattivi: identifica precocemente modelli di ragionamento pericolosi, garantisce una copertura ampia dei potenziali rischi e facilita il monitoraggio sistematico delle minacce comportamentali dell'IA. Il framework è dettagliato nella preprint arXiv 2604.11070v1, segnando un cambiamento significativo nella definizione dei parametri di sicurezza per i sistemi di IA.