Governare sistemi di Intelligenza Artificiale nella PA: architetture di rischio, sandbox regolatorie e controllo civico
L’intelligenza artificiale sta assumendo il ruolo di infrastruttura decisionale nei processi pubblici, incidendo su ambiti ad alta rilevanza sociale quali sanità, welfare, sicurezza e gestione amministrativa. In questo scenario, la sfida per la Pubblica Amministrazione riguarda la capacità di governare sistemi complessi, opachi e dinamici lungo l’intero ciclo di vita, garantendo controllo, trasparenza e responsabilità.
Il convegno propone un inquadramento operativo della governance dell’AI nella PA, presentando una filiera integrata di strumenti che accompagna l’introduzione dei sistemi dalla valutazione preventiva alla messa in esercizio. In particolare, verranno approfonditi i modelli di AI assessment per l’analisi ex ante dei rischi, gli ambienti di sperimentazione controllata per la validazione in contesti realistici e le pratiche di AI Red Teaming per la simulazione di scenari avversi e l’individuazione preventiva delle vulnerabilità. Attraverso il contributo della Fondazione ENIA, saranno illustrati approcci concreti per supportare amministrazioni e consulenti nella gestione del rischio algoritmico, nella verifica di conformità ai principali riferimenti normativi giuridici e tecnici e nella costruzione di modelli di accountability trasparente e verificabile.
Un focus specifico sarà dedicato alle Giurie di Comunità per l’AI, come dispositivo innovativo di controllo civico e validazione sociale delle decisioni automatizzate, in grado di integrare dimensione tecnica e legittimazione democratica. L’incontro si configura come uno spazio tecnico-strategico per accompagnare la Pubblica Amministrazione verso un utilizzo dell’intelligenza artificiale fondato su gestione strutturata del rischio, capacità di verifica continua e produzione di valore pubblico.
