I quadri di governance dell'IA per i servizi pubblici rischiano di fallire con l'IA generale

Un nuovo articolo sostiene che gli attuali quadri di governance dell'IA per i servizi pubblici sono inadeguati per gestire l'IA generale (GPAI) basata su grandi modelli linguistici. Gli autori affermano che le stesse proprietà che rendono attraente la GPAI—generalità, accessibilità, basso costo di implementazione—minano le condizioni per la sicurezza dell'IA. Concetti tradizionali di sicurezza come accuratezza, bias, spiegabilità e responsabilità sono stati progettati per IA ristrette e specifiche e non possono essere applicati agli output illimitati della GPAI. Ad esempio, l'accuratezza non può essere quantificata su output illimitati e il bias non può essere disaggregato quando gli output sono giudizi in testo libero. L'articolo trae insegnamenti dalle forze dell'ordine per illustrare questi fallimenti. Pubblicato su arXiv, lo studio evidenzia un divario critico nella governance mentre i servizi pubblici adottano sempre più l'IA per soddisfare la crescente domanda con risorse in calo.