L’efficienza a rischio di responsabilità? L’intelligenza artificiale nella pubblica amministrazione

La pubblica amministrazione italiana usa già l’intelligenza artificiale per analizzare dati, gestire procedimenti, supportare decisioni e persino prevedere reati. I rapporti AgID e Osservatorio Amministrazione Automatizzata mostrano un panorama in rapida evoluzione, ma anche fortemente disomogeneo. Tra efficienza, accountability e diritti fondamentali, quali sono i rischi istituzionali e le opportunità di governance della nuova amministrazione algoritmica?

L’intelligenza artificiale non è più un oggetto di una prospettiva di scenari futuri per la pubblica amministrazione italiana: è già oggi parte integrante di molti processi, dal document mangement all’analisi predittiva in ambito fiscale, sociale e di sicurezza. I recenti rapporti di AgID e dell’Osservatorio Amministrazione Automatizzata offrono per la prima volta un quadro empirico ampio dell’adozione di sistemi di IA nel settore pubblico: ministeri, agenzie, enti previdenziali e gestori di servizi essenziali sperimentano strumenti di classificazione automatica, riconoscimento di pattern e assistenza virtuale, con l’obiettivo dichiarato di migliorare l’efficienza e la qualità dei servizi.

Questa diffusione, tuttavia, è tutt’altro che uniforme. Le amministrazioni centrali e alcune grandi realtà territoriali dispongono di risorse e competenze per sviluppare progetti complessi; molti enti locali, al contrario, faticano a tenere il passo. Il rischio è la creazione di una amministrazione con un andamento disomogeneo delle pratiche: alcune vengono trattate con tempi ridotti, mentre altre subiscono rallentamenti significativi, con effetti diretti sul principio di eguaglianza e sulla capacità dei cittadini di accedere a servizi di qualità analoga a seconda del territorio di residenza.

Il primo argomento a favore dell’IA è l’efficienza: la riduzione nelle tempistiche, lo smaltimento dei backlog, la possibilità di liberare risorse umane da compiti ripetitivi. Ma, l’efficienza non può essere perseguita a costo di sacrificare la accountability (sul tema si veda G. Buttarelli, L’Italia adotta una Strategia per le competenze digitali; G. Buttarelli, Un convegno sulla digitalizzazione della pubblica amministrazione; G. Vesperini, G. Carullo, Gestione, fruizione e diffusione dei dati dell’amministrazione digitale e funzione amministrativa, Giappichelli, Torino, 2016).

Nel contesto dell’IA pubblica, la accountability si esplicita almeno attraverso tre elementi: la conoscenza del fatto che sia stato utilizzato un sistema di IA; la comprensione di come esso abbia contribuito alla decisione; l’individuazione di chi risulta essere responsabile, giuridicamente e politicamente, delle scelte compiute.

Qui si intrecciano i profili della trasparenza algoritmica e della responsabilità a catena. Se una decisione viene influenzata da un modello di machine learning, non è adeguato limitarsi ad affermare che sia stato il sistema a decidere: occorre che l’amministrazione abbia fissato preventivamente criteri di utilizzo chiari, documentato le scelte progettuali (dalla selezione dei dati alla scelta dei parametri) e previsto controlli periodici sull’accuratezza e sull’equità dei risultati. In mancanza, il rischio è una deresponsabilizzazione diffusa, in cui nessuno è davvero chiamato a rispondere.

L’esempio del sistema KeyCrime/Giove, utilizzato in ambito di polizia predittiva, è emblematico (sul punto si veda Osservatorio Amministrazione Automatizzata, Report annuale 2024-2025). Il software elabora grandi quantità di informazioni su reati passati per individuare correlazioni e “prevedere” dove e quando potrebbero verificarsi nuovi episodi. Questo consente di allocare meglio le risorse, collegare episodi al medesimo autore e potenzialmente prevenire reati. Ma, come mostrano le analisi dell’Osservatorio, l’uso di dati sensibili (ad esempio elementi sull’origine etnica o su tratti linguistici ricavati da testimonianze) può introdurre bias sistematici, riproducendo e amplificando pregiudizi presenti negli archivi storici.

Anche se le predizioni non hanno, di per sé, effetti giuridici immediati, esse orientano le decisioni degli operatori sul campo: un maggior numero di pattuglie in determinate aree, una più elevata sorveglianza in determinati quartieri, un’attenzione selettiva verso specifici gruppi. In questo modo, gli esiti dell’IA influenzano indirettamente i diritti fondamentali, soprattutto di chi appartiene a categorie già vulnerabili.

Per evitare che l’intelligenza artificiale diventi un fattore di discriminazione invisibile, è indispensabile introdurre valutazioni d’impatto algoritmico preventive e periodiche, sul modello di quelle già previste dal GDPR per la protezione dei dati. Non si tratta solo di verificare il rispetto formale delle norme, ma di analizzare in concreto gli effetti dei sistemi sulle vite delle persone, misurando eventuali disparità e correggendo i modelli quando necessario.

Da questo punto di vista, le raccomandazioni AgID sulla governance dei dati e dei sistemi di IA puntano in una direzione chiara: sviluppare all’interno delle amministrazioni competenze specialistiche, figure in grado di svolgere il ruolo di responsabili della gestione algoritmica, capaci di dialogare con i tecnici, con i giuristi e con il vertice politico-amministrativo. Senza questa capacità interna, il rischio è di delegare totalmente a fornitori esterni non solo lo sviluppo, ma anche la comprensione dei sistemi utilizzati (sul tema si veda AgID, L’intelligenza artificiale nella pubblica amministrazione, Rapporto 2025).

La recente entrata in vigore dell’AI Act e la conseguente legge italiana di adeguamento pongono ora un ulteriore livello di vincoli e opportunità. I sistemi di IA utilizzati nei servizi pubblici essenziali saranno spesso classificati ad alto rischio, e quindi sottoposti a requisiti stringenti di qualità dei dati, trasparenza, sorveglianza umana e monitoraggio ex post. L’adeguamento potrà essere vissuto come l’ennesimo onere burocratico, oppure come un’occasione per costruire una governance istituzionale dell’IA, capace di rafforzare la fiducia dei cittadini nella trasformazione digitale dello Stato.

Il futuro dell’IA nella PA italiana dipenderà da questa scelta: limitarsi a “inserire algoritmi” nei procedimenti esistenti, o ripensare completamente le procedure, la responsabilità e le competenze in modo che l’automazione sia realmente al servizio dei principi costituzionali di legalità, imparzialità e buon andamento, e non il contrario.

Osservatorio sullo Stato Digitale by Irpa is licensed under CC BY-NC-ND 4.0