Recensione: “Il presente dell’amministrazione algoritmica. Una ricerca sul campo”, a cura di Marco Macchia, Torino, Giappichelli, 2026

Il Volume curato da Marco Macchia esamina, con un approccio degno di nota, l’impatto dei sistemi di programmazione statistica — denominati mediaticamente “intelligenza artificiale”, o IA — in diverse attività svolte dalle pubbliche amministrazioni. Alla base della ricerca, la critica a indagare per schemi astratti, a favore di un criterio empirico, vòlto a “trarre il sistema dal reale”, come scriveva Massimo Severo Giannini (puntualmente richiamato dal Curatore). E la realtà presente, come rivela il titolo, mostra come i sistemi informatici si integrino in settori complessi, che sottendono interessi molto delicati, spesso in conflitto tra loro. Di qui, i molti interrogativi circa le tensioni che essi suscitano in ordine al rispetto di principi cardine dell’ordinamento.

Il libro, articolato in dieci capitoli, entra in medias res con una prospettiva generale, cui seguono indagini settoriali. Le ripercorro, per poi cercare di trovare elementi comuni e svolgere qualche riflessione.

Il primo capitolo (“L’intelligenza artificiale alla prova della pubblica amministrazione”, scritto dal Curatore), restituisce un quadro generale sulla legittimità del potere algoritmico, la mitigazione dei rischi (bias), la trasparenza, l’ormai noto human-in-the-loop. Il capitolo si concentra sull’impatto dei sistemi di programmazione statistica a casi specifici. Il punto di partenza è Diella, “virtuale ministra” (definizione che già dovrebbe far alzare le soglie dell’attenzione) albanese, chiamata, con slogan propagandistici, a gestire appalti pubblici e combattere – addirittura – la corruzione. L’iniziativa ha sollevato molte critiche, in ordine alla legittimità costituzionale di un software affidatario di funzioni amministrative: evidenziando questioni di trasparenza e responsabilità, sono subito inquadrate le sfide complesse delle odierne tecnologie, tra realtà e finzione, dove è sempre più necessario ripensare i fondamenti di legittimità, trasparenza, responsabilità, garanzie costituzionali.

Lo scenario complessivo, attraverso diversi rapporti, dall’Ocse all’Agid, rivela un conteggio dei progetti annunciati, programmati e attuati, in ambiti che spaziano dalla gestione dei dati ai servizi, nel nome di una presunta, maggiore efficienza. È ricordata la tassonomia degli algoritmi impiegati, che si suddividono in quattro categorie: deterministici, ossia basati su regole causa-effetto; stocastici, vale a dire calibrati su modelli probabilistici; supervisionati, che apprendono da dati classificati; non supervisionati, che identificano autonomamente correlazioni (in realtà, anche quest’ultima categoria richiede interventi e risponde a una logica predefinita). Viene correttamente messo in luce, quindi, come l’uso di correlazioni statistiche possa generare fallacie ricostruttive e mancata comprensione, oltre che correttezza, dei risultati.

Nella lettura dell’A., la base legale del potere algoritmico rappresenta un elemento cruciale. Se in passato la giurisprudenza ha riconosciuto un’autorizzazione implicita all’uso di algoritmi, qualificandolo come scelta organizzativa, oggi si corre verso una maggiore normazione, come mostra la legge italiana che, nel solco dell’AI Act, regola esplicitamente l’impiego dell’IA nell’attività amministrativa, codificando la funzione solamente strumentale e di supporto all’attività provvedimentale, nel rispetto dell’autonomia e del potere decisionale della persona incaricata, l’unica responsabile dei provvedimenti adottati.

I rischi principali connessi all’adozione di sistemi di IA sono noti: bias e discriminazione algoritmica, mancanza di trasparenza, affidabilità limitata, lesione della privacy nella gestione di grandi volumi di informazioni sensibili. La neutralità tecnica, ormai evidentemente illusoria, deve lasciare il posto ai problemi posti dalla stessa tecnica, che minano principi di civiltà giuridica e possono tradursi in discriminazioni sistemiche. L’A. ricorda che in alcuni casi sono le stesse decisioni umane a essere insondabili, in quanto i processi cognitivi sono difficili da provare: paradossalmente, in questi casi, è proprio l’opacità degli algoritmi a poter svelare i pregiudizi sottostanti alle persone che hanno costruito gli algoritmi. A ciò si aggiunge un altro fattore: siamo tutti più inclini ad accettare le decisioni umane, anche ove siano non eque e obiettive.

In ogni caso, il controllo sulla tecnica è imprescindibile: il capitolo si conclude suggerendo l’idea di una “amministrazione algoretica” (dizione che non convince del tutto, in quanto frutto di una umanizzazione delle macchine, ma comunque contenente buone intenzioni), un modello dove l’efficienza computazionale è bilanciata da una costante supervisione umana e valutazioni di impatto etico. Gli algoritmi devono integrare, non sostituire, la capacità decisionale umana, mantenendo al centro la responsabilità democratica e i diritti fondamentali.

Il secondo capitolo (“L’utilizzo degli algoritmi e i poteri di regolazione indipendenti: il caso Agcom”, di Francesco Giovanni Albisinni) si concentra sul ruolo dell’Agcom: l’Autorità si occupa di temi oggetto di grande attenzione, e il caso specifico del Piracy Shield per la tutela del diritto d’autore desta molte riflessioni. Dopo aver ricordato che il regime tradizionale di tutela del diritto d’autore è passato dal potere potere giurisdizionale a una progressiva amministrativizzazione, viene descritto analiticamente il procedimento concepito con questo nuovo strumento. In generale, l’avvio del procedimento in materia avviene su istanza di parte, con regime di alternatività della tutela rispetto alla tutela giurisdizionale; quindi, con termini piuttosto serrati (considerati al limite di un corretto esercizio dei diritti previsti), l’avvio viene comunicato ai soggetti interessati, anche al fine di consentire controdeduzioni. La fase decisoria spetta al Consiglio dell’Autorità (entro trentacinque giorni dall’avvio). Nel 2023, il legislatore ha attribuito poteri ancora più incisivi, finalizzati a salvaguardare gli eventi trasmessi in diretta, con possibilità di misure cautelari, l’assenza di contraddittorio e un, tempo massimo di trenta minuti per la rimozione dei contenuti illeciti.

Con specifico riferimento al Piracy Shield, ne viene ricordata la genesi, quale dono della Lega Calcio Serie A, che ha posto condizioni quali la conformità a requisiti definiti da un apposito tavolo tecnico. La piattaforma, infatti, gestisce le segnalazioni in modo automatizzato tramite interfaccia machine-to-machine: il titolare invia la segnalazione indicando gli indirizzi IP; sono concessi solo settantacinque secondi per correzioni; quindi, gli ISP devono oscurare il sito entro trenta minuti. Il carattere automatico del meccanismo si associa alla possibilità di un ricorso entro un termine molto breve (cinque giorni).

Il sistema ha generato disfunzioni ed è stato oggetto di critiche dalla Commissione europea, oltre a eclatanti errori, quale l’oscuramento automatico di un sistema di archiviazione molto noto, nell’ottobre 2024. Permangono dubbi, quindi, sul rispetto del principio di proporzionalità, che hanno portato anche a definire misure correttive, con la possibilità di riabilitazione dopo alcuni mesi. Nell’insieme, il Piracy Shield incide notevolmente sulla struttura del procedimento amministrativo, determinando una progressiva riduzione delle garanzie procedimentali, con assenza di pieno rispetto del contraddittorio e incisione marcata del principio di proporzionalità.

Il terzo capitolo (“Intelligenza strumentale e controllo dei confini”, di Livia Baldinelli), esamina il modo in cui le attuali tecnologie fornite su vasta scala stiano trasformando la gestione dei flussi migratorinell’Unione europea. La gestione dei confini, storicamente svolta dallo Stato, ha subito mutamenti significativi e, oggi, si assiste a una progressiva “digitalizzazione delle frontiere”, tramite il ricorso a filtri automatizzativolti a favorire una valutazione rapida del rischio, portando alla creazione di una presunta frontiera “intelligente” dell’Unione, che per esigenze di sicurezza, salute pubblica e controllo dell’immigrazione, ha costruito lo European Travel Information and Authorization System (Etias).

Queste stesse premesse sono ben oltre i confini dell’accettabile: le istanze “securitarie” creano un evidente conflitto con le esigenze di tutela della persona. Innalzando “muri invisibili”, ossia forme di respingimentobasate sulla programmazione statistica, volte a deresponsabilizzare i governi, si possono mascherare abusi nel nome della già richiamata — e solo presunta — neutralità tecnologica. I migranti sono sottoposti ad accertamenti che comportano la raccolta di dati biometrici da inserire nel registro Eurodac, riformato nel 2024: si tratta di un  database originariamente utilizzato per individuare lo Stato membro competente per la domanda asilo, che ormai rappresenta, però, uno strumento condiviso e orizzontale per tracciare le persone nel nome del contrasto all’immigrazione irregolare, comprendendo anche le immagini finalizzate al riconoscimento facciale, tipicamente invasivo e particolarmente critico.

Il risultato è una crescente datificazione dei flussi migratori in chiave geopolitica, in cui i corpi delle persone sono la base di una asimmetria informativa, difficilmente contrastabile se non con rimedi giurisdizionali. Il contrasto con normative come lo stesso AI Act, causato da scraping non mirato, è alle porte, con annessa la possibile discriminazione in base alla razza e al colore della pelle (elementi forieri di bias, che richiederebbe un controllo molto più capillare). Il sistema confronta i dati con raccolti su scala europea e, in caso di alertpositivi, il controllo diviene manuale e affidato all’unità centrale e nazionale. In questo senso, esso appare parzialmente in linea con quanto richiede la giurisprudenza sul rispetto del giusto processo e del diritto di difesa, ma ancora molto va fatto per assicurare il principio di non discriminazione, tanto che l’Agenzia per i diritti fondamentali dell’Unione europea ha sollevato preoccupazioni in merito.

Sul piano istituzionale, emerge il contrasto con la dottrina Meroni, che costituisce limite costituzionale all’attribuzione di poteri normativi alle agenzie europee: nel quadro dell’agenzia Frontex, il confine tra discrezionalità politica e poteri tecnici diviene sfocato, dando vita a una “discrezionalità algoritmica” che produce conseguenze negative in termini di responsabilità e controllo giurisdizionale. A tanto può condurre il soluzionismo tecnologico, ove non correttamente inquadrato e compreso. Di qui la necessità di tornare allo stato di diritto, fortificando i presidi costituzionali.

Il quarto capitolo (“Oltre i numeri: una nuova grammatica dell’azione pubblica contabile”, di SiriaCarrara) esplora l’intersezione tra bilancio pubblico e IA, partendo dalla nota natura di atto politico e valutativo connesso alla adozione del bilancio dello Stato. L’A. chiarisce sin dall’introduzione che il bilancio presenta due dimensioni complementari: una tecnico-matematica, fondata su dati, numeri e classificazioni, che si presta all’automazione, e una più profonda, in cui le scelte allocative, la creazione di nuovi capitoli di spesa e la definizione di priorità settoriali sono decisioni guidate da interessi pubblici e compromessi politici. Dopo aver delineato il quadro normativo europeo e nazionale — articolato su tre piani: la disciplina del bilancio pubblico statale, la regolazione dell’intelligenza artificiale e la materia relativa alla gestione dei dati — l’A. descrive il processo di bilancio nelle sue quattro fasi (programmazione economico-finanziaria, predisposizione del bilancio di previsione, gestione e rendicontazione) e nelle sue tre funzioni (giuridica, economica e politica), evidenziando come tale triade restituisca al bilancio la natura di atto complesso e irriducibile a mera elencazione numerica.

È quindi analizzato il ricorso al sistema InIt, un Enterprise Resource Planning (Erp) pubblico che automatizza le scritture contabili unificando i processi delle amministrazioni. InIt è una soluzione informatica per semplificare il processo contabile, basata su due pilastri: l’unicità delle scritture contabili e il loro automatismo tramite anagrafiche centralizzate. Il sistema, in fase di sperimentazione, solleva questioni cruciali relative alla qualità dei dati, alla loro tracciabilità e alla responsabilità nella gestione dei flussi informativi: poiché i dati provengono in parte da inserimenti manuali e in parte da sistemi esterni, eventuali errori a monte si propagano alle scritture generate automaticamente, e l’impossibilità di sottoporre a verifica ex post l’intera mole dei flussi rende il dato di partenza il punto critico dell’intero processo.

Vengono illustrati, poi, tre modelli in fase di sperimentazione presso la Ragioneria Generale dello Stato. Il primo assiste la costruzione e classificazione dei capitoli di spesa, suggerendo la composizione numerica e descrittiva di nuove voci contabili sulla base di schemi esistenti; il secondo redige bozze documentali come relazioni tecniche, istruttorie su proposte di legge, rendiconti di missione e analisi sul Pnrr, attingendo a un corpus eterogeneo di fonti e indicando quelle utilizzate e quelle escluse con relativa motivazione; il terzo genera contenuti anche in scenari inediti, affondando all’inferenza probabilistica le fonti certificate.

Secondo l’A. vi sono seri problemi di sovranità del dato — ovvero del controllo pubblico sulle informazioni trattate —, di de-responsabilizzazione del funzionario, che rischia di trasformarsi da soggetto valutatore in validatore passivo di output algoritmici, e di compatibilità con regole e principi del procedimento amministrativo, quali legalità, imparzialità, trasparenza e motivazione. La condivisibile conclusione è che le tecnologie devono essere abilitanti e non sostitutive, rafforzando e non soppiantando la razionalità pubblica: l’algoritmo non decide “per” l’amministrazione, ma “con” l’amministrazione, e solo in un quadro di trasparenza, tracciabilità e intelligibilità giuridica sarà possibile coniugare innovazione ed equilibrio istituzionale.

Il quinto capitolo (“L’impatto degli algoritmi sulla partecipazione dei cittadini ai processi decisionali delle pubbliche amministrazioni”, di Caterina Cossiga) indaga come la cd. IA stia ridefinendo le forme di partecipazione civica ai processi decisionali delle pubbliche amministrazioni, secondo il paradigma della democrazia amministrativa. L’A. chiarisce che l’attenzione si sposta dal problema della partecipazione a decisioni algoritmiche a quello della partecipazione mediata da algoritmi, in cui l’IA agisce come strumento di selezione, strutturazione e interpretazione delle istanze civiche. È offerta l’evoluzione delle forme partecipative in Italia: dalla semplice digitalizzazione degli atti all’e-participation strutturata, caratterizzata da strumenti digitali pensati specificamente per il coinvolgimento civico, con piattaforme come ParteciPA e l’adattamento del dibattito pubblico a modalità ibride o telematiche. Esperienze concrete (quali il dibattito sul nuovo stadio della A.S. Roma, sul Masterplan dell’aeroporto Marco Polo di Venezia e sulla S.S. Catania-Gela) illustrano un aumento sensibile della partecipazione, con la quale si scontra l’assenza di un principio generale di consultazione, o la partecipazione amministrativa storicamente fragile in Italia, concepita più come difesa del singolo interessato che come partecipazione dei cittadini in quanto tali alla formazione delle decisioni pubbliche.

Successivamente, l’A. introduce il concetto chiave di mediazione algoritmica, evidenziando come gli algoritmi non si limitino a trasmettere gli input dei cittadini ma li filtrino, classifichino e gerarchizzino, assumendo il ruolo di gatekeeper della volontà collettiva. A differenza degli strumenti digitali, tendenzialmente neutri, gli algoritmi esercitano un potere selettivo e ordinatore: definiscono priorità, strutturano l’agenda, talvolta rendono invisibili istanze che eccedono le logiche formalizzate nel codice. Tre casi di studio illustrano questa dinamica. Le piattaforme di civic tech come Decidim, adottate da numerosi enti locali, stanno integrando sistemi di raccomandazione e ranking che rischiano di alterare la visibilità delle idee: le proposte segnalate come più popolari tendono a essere amplificate, mentre altre tecnicamente fondate ma meno attrattive rischiano di rimanere marginali o oscurate. Le simulazioni predittive e i digital twin urbanistici di Bologna, Torino ed Emilia-Romagna arricchiscono la conoscenza pubblica disponibile per le decisioni territoriali, ma possono generare asimmetrie cognitive: la complessità tecnica e il linguaggio specialistico rischiano di ridurre il cittadino a fruitore passivo di scenari già elaborati e difficilmente contestabili. Il progetto iDem, finanziato da Horizon Europe, utilizza la cd. IA come mediatore cognitivo inclusivo per persone con disabilità linguistiche o cognitive, traducendo testi amministrativi complessi in forme leggibili e supportando la navigazione: un impiego virtuoso che estende la platea dei partecipanti, ma che richiede vigilanza su possibili semplificazioni improprie o distorsioni. L’A. conclude che l’approccio basato sul rischio dell’AI Act è insufficiente a cogliere il rischio democratico degli algoritmi “a basso rischio”, poiché la loro azione cumulativa può incidere sulla formazione della volontà collettiva, sull’eguaglianza nell’accesso all’informazione e sulla fiducia nei processi decisionali: propone dunque un quadro normativo organico che disciplini trasparenza, audit algoritmico e accesso paritario ai processi partecipativi mediati dall’IA.

Il sesto capitolo (“Gli algoritmi impiegati nella funzione previdenziale”, di Massimiliano D’Angelo e Alessandro Romano), scritto dalla penna viva di due dirigenti dell’Inps, illustra l’impiego di intelligenza artificiale presso l’istituto, il più grande ente previdenziale pubblico europeo con 52 milioni di utenti, circa 25 mila dipendenti dislocati su 635 strutture territoriali, e con un bilancio di 931 miliardi di euro. L’Istituto, responsabile della gestione di pensioni, indennità di disoccupazione, prestazioni assistenziali e altri servizi sociali — con 478 milioni di accessi autenticati e 771 milioni di servizi erogati online nel 2024 — ha adottato un modello di governance strutturato, basato su censimento dei casi d’uso, valutazione del rischio secondo l’AI Act e monitoraggio continuo, diviso in tre macro-fasi: censimento e classificazione mediante schede standardizzate allineate alle Linee Guida Agid; valutazione di aderenza agli standard architetturali e analisi del rischio; supervisione e monitoraggio nel tempo attraverso KPI di performance, feedback degli utenti e controllo della spesa.

Sono descritte sei tipologie di algoritmi impiegati — da quelli per la classificazione del testoall’orchestrazione dei processi, dalle decisioni basate sui dati ai sistemi di raccomandazione, fino alla generazione di contenuti — con esempi concreti quali il MasterBot (75.000 interazioni mensili, con riduzione del 30% dei contatti gestiti da operatori), lo smistamento automatizzato delle richieste (con oltre 148.000 richieste processate nel 2024), il progetto GenArtis per l’analisi automatica delle relazioni tecniche di Cassa Integrazione, che genera un report di valutazione con rating di giudizio e motivazione dettagliata (e che proprio per questo va valutata con moltissima attenzione). Si segnalano inoltre il sistema di semplificazione del linguaggio (con oltre 700 testi riscritti) e il progetto Legacy Modernization per l’aggiornamento di quelli informatici (ad esempio, il Cobol mainframe).

Particolare attenzione è dedicata al sistema Siisl, l’unica applicazione classificata come ad alto rischioperché impiegata nell’incrociare la domanda e l’offerta di lavoro. Il sistema calcola un indice di affinità tra profilo del candidato e posizione lavorativa, ma non determina automaticamente selezioni o esclusioni: la decisione finale resta in capo ai datori di lavoro, secondo un approccio precauzionale teso a evitare discriminazioni indirette (tramite variabili di prossimità, come il titolo di studio o la zona geografica). L’Inps ha anche svolto un audit interno, nel 2025, da cui sono emerse quindici azioni di miglioramento riguardanti governance, compliance normativa, prevenzione dei bias, spiegabilità degli algoritmi e formazione del personale; si aggiungono cinque osservazioni generali su strategia, priorità, cultura della consapevolezza, etica e sicurezza. In sintesi, l’Inps cerca di coniugare l’uso degli strumenti probabilistici con la tutela dei diritti, nel quadro di una regia esclusivamente umana.

Il settimo capitolo (“Algoritmi per lo sviluppo delle Smart Cities”, scritto da Manlio Lisanti) esplora l’impatto degli algoritmi e della programmazione statistica sul governo del territorio urbano e delle smartcities. L’A. individua quattro ambiti fondamentali: i servizi e le infrastrutture, la regolamentazione degli spazi pubblici, il diritto urbanistico e la governance urbana, mostrando come la digitalizzazione abbia il potere di trasformare ciascuno di essi. Così, ad esempio, la crescente raccolta di dati urbani attraverso sensori, apparecchiature e piattaforme crea una circolarità tra acquisizione del dato e suo reimpiego nelle scelte di pianificazione, sollevando interrogativi cruciali sul controllo delle decisioni algoritmiche, sulla trasparenza e sulla possibilità per il cittadino di comprendere e contestare le determinazioni adottate su tali basi.

Sono individuati diversi elementi di tensione nel rapporto con gli algoritmi: la discrezionalità amministrativa, il rispetto del principio di proporzionalità, la ponderazione del dato meramente tecnico, la tensione tra strumentazioni tecnologiche e l’esigenza, tipicamente istruttoria, di accedere in modo pieno al fatto. Quanto ai casi reali, il capitolo oltre a richiamare — in realtà, successivamente, alla fine del testo — il rapporto ICity Rank 2024, e a ripercorrere gli strumenti utilizzati per i servizi pubblici locali, anche di matrice nazionale, come le identità digitali, i sistemi di pagamento, il punto unico di accesso e le notifiche dirette, mette in evidenza il progetto Geoanalyse della Provincia Autonoma di Bolzano, utilizzato per individuare circa 13.500 mq di superfici commerciali inutilizzate, portando al diniego di una variante urbanistica richiesta da due società proprietarie di fondi contigui per l’insediamento di un centro commerciale. La decisione è finita dinanzi ai giudici amministrativi e ha sollevato problematiche connesse alla influenza della scelta basata sui dati raccolti ed esaminati, la possibile posizione acritica dall’amministrazione, la conduzione in via generalizzata dell’istruttoria, anziché caso per caso, con l’assenza di valutazioni concrete sui locali, per verificare se siano accessibili, disponibili o compatibili con gli interessi sottostanti.

Tutto questo conduce a interrogarsi su una nuova epistemologia decisionale, in cui il sapere tecnico slitta da semplice supporto istruttorio a parametro normativo di predeterminazione della scelta. In questo senso, il possibile effetto di automatismo decisionale si porrebbe in contrasto con i canoni costituzionali, in particolare vanificando la valutazione del singolo caso concreto, a favore di una modellizzazione astratta e con rischi per la tenuta della responsabilità amministrativa. Queste valutazioni sono riflesse anche nel principio dispositivo temperato proprio del processo amministrativo, che rende disagevole la posizione del controinteressato. Gli interrogativi sul rapporto tra ausili tecnici, meccanismi decisionali, bilanciamento degli interessi, rischi di motivazione rarefatta, diluizione della responsabilità amministrativa, sono evidentemente ancora aperti.

Il capitolo ottavo (“Riconoscimento facciale e sicurezza pubblica: il dispositivo SARI” di Antonella Mascolo) affronta il delicatissimo — e grave, a mio giudizio — tema delle tecnologie di riconoscimento facciale. Queste ultime non sono utilizzate in via esclusiva dei regimi autoritari: oltre il 50% di regimi classificabili come democratici ne fa uso per finalità di sicurezza pubblica, a fronte del 37% dei regimi autocratici.

L’A. svolge una riflessione filosofico-giuridica sulla trasformazione del corpo in stringhe algoritmiche, che genera la sua informatizzazione e l’emersione di un nuovo concetto ontologico, ossia l’uomo quale “ente informazionale”. I dati biometrici, infatti, non possono essere modificati o revocati in caso di compromissione, con conseguenze potenzialmente irreversibili per l’individuo. Al loro interno, il riconoscimento facciale, come visto nel capitolo sull’immigrazione, è particolarmente problematico, per la possibile raccolta senza consenso e persino senza la percezione dell’interessato — come avviene ormai quotidianamente nel caso delle telecamere installate in luoghi pubblici e dello scraping massivo da parte di società come Clearview.

Nel dettaglio, vengono distinte tre categorie tecnologiche: la one-to-one comparison (verifica di corrispondenza tra due immagini), la one-to-many comparison (identificazione di un volto all’interno di un database) e la categorisation (deduzione di caratteristiche come sesso, età, etnia). Quest’ultima, in particolare, lambisce interessi particolarmente delicati e desta particolare preoccupazione.

Riemergono i rischi di discriminazione algoritmica: sono richiamati gli studi che dimostrano che la maggior parte dei dataset non rappresenti l’attuale diversità demografica, con falsi positivi e una significativa riduzione di accuratezza quando si tratti di riconoscere soggetti appartenenti a minoranze etniche, donne e anziani (emblematico il caso di Robert Williams, trattenuto in arresto per oltre 24 ore a Detroit a causa di un errore algoritmico, ha determinato una vera e propria inversione dell’onere della prova). L’A. ricorda, soprattutto, che la biosorveglianza genera un effetto chilling: la presenza di telecamere di riconoscimento facciale esercita un innegabile condizionamento sulle libertà di espressione, riunione e manifestazione del pensiero.

Il cuore del capitolo è l’analisi del Sistema Automatico di Riconoscimento Immagini (Sari), commissionato nel 2016 dal Dipartimento della Pubblica Sicurezza e sviluppato da una società privata. Esso si articola in due componenti: Sari Enterprise, per il confronto differito tra l’immagine di un individuo e i database delle forze dell’ordine, e Sari Real Time, per il riconoscimento in tempo reale mediante telecamere di sorveglianza. Il Garante per la protezione dei dati personali aveva sollevato molti dubbi su quest’ultimo, ai principi consolidati in materia di riservatezza, con il rischio di una sorveglianza universale. Per questo il legislatore ha introdotto una moratoria sull’installazione di sistemi di riconoscimento facciale in luoghi pubblici. Con l’AI Act il dibattito si riapre, suscitando molti interrogativi.

La stessa A. ha presentato un’istanza di accesso civico, ottenendo risposte rivelatrici: il database utilizzato è l’Automated Fingerprint Identification System (Afis), contenente circa 18 milioni di soggetti, di cui 2,7 milioni di cittadini italiani, 1,1 di cittadini dell’Unione e e ben 13,9 milioni di cittadini extra-UE, ossia l’80% del campione complessivo. Questa distribuzione demografica genera di per sé un rischio concreto di profilazione razziale (in violazione dell’art. 10 dell’AI Act). Le ricerche effettuate nel 2024 sono state ben 181 mila, in evidente crescita (79 mila nel 2022, e 131 mila nel 2023, con un incremento del 65% che non sembra giustificato da un corrispondente aumento dei tassi di criminalità). Tutto ciò appare difficilmente compatibile con il principio di proporzionalità e di stretta necessità richiesto per i sistemi ad alto rischio.

Sul piano dell’impiego processuale, il sistema è utilizzato non solo per l’identificazione, ma anche per finalità di indagine e in sede dibattimentale. L’A. contesta la legittimità di tale impiego: in fase di indagini preliminari, manca una adeguata base legale (il codice di rito non comprende l’analisi biometrica algoritmica), ed emerge il rischio di incrinare il principio di tipicità della prova, il diritto al contraddittorio ex art. 111 Cost. e gli standard richiesti dalla Corte Edu. La prova algoritmica, essendo eteronoma, opaca e non ripetibile, infatti, non soddisfa i requisiti di falsificabilità e verificabilità propri del modello accusatorio.

L’A. conclude auspicando l’elaborazione di una disciplina nazionale puntuale che definisca chiaramente le condizioni di utilizzo del riconoscimento facciale, introduca meccanismi di controllo indipendente e garantisca strumenti effettivi di tutela giurisdizionale, in un equilibrio concreto tra sicurezza collettiva e protezione dei diritti fondamentali.

Il tema mostra una elevatissima temperatura, che richiede uno sguardo vigile, come quello brillante dell’Autrice.

Il capitolo nono (“Algoritmi e contrattualistica pubblica”, di Giuseppe Sferrazzo) esamina il settore della contrattualistica pubblica, esplorando la doppia direzione del rapporto tra IA e appalti: l’IA come soluzione per il sistema degli acquisti pubblici e il procurement come mezzo per l’ingresso dell’IA nella pubblica amministrazione.

L’A. ricostruisce l’evoluzione storica dell’amministrazione: dalla 1.0 (uso del computer limitato a macchina da scrivere), alla 2.0 (adozione di atti e provvedimenti elettronici), alla 3.0 (trasmissione telematica con valore legale, siti istituzionali, albo pretorio digitale), fino alla amministrazione 4.0, in cui si affaccia la possibilità di un’automazione completa o pressoché tale, con limitazione dell’intervento umano.

Il dato è considerato protagonista assoluto del settore: di esso la pubblica amministrazione rappresenta, potenzialmente, l’antagonista, se non riesce a ottenerne una raccolta pulita e raffinata (pena il fenomeno garbage in-garbage out). Altrettanto cruciale è il ruolo della formazione, che sia all’altezza di formare figure professionali competenti e in grado di comprendere le implicazioni delle scelte tecnologiche.

Per quanto riguarda le ipotesi concrete, muovendo dal rapporto Agid del giugno 2025, che ha censito 120 progetti di IA nelle pubbliche amministrazioni centrali, l’A. evidenzia una certa eterogeneità: prevalgono le adesioni ad Accordi Quadro e Convenzioni Consip, con ricorso anche a MePA, Sdapa e a procedure aperte. Circa la metà delle procedure ha riguardato gare ICT generiche, mentre il 12% dei contratti è stato attivato a seguito di proposta spontanea dei fornitori, con un valore medio dei contratti di circa 19 milioni di euro e durata media di tre anni. Vi sono rischi di acquisire soluzioni non pienamente aderenti alle esigenze specifiche e di incappare in fenomeni di vendor lock-in, che compromettono elasticità, comprensibilità e sostenibilità economica delle soluzioni. L’A. raccomanda l’uso di gare dedicate, precedute da progetti pilota che ne testino fattibilità ed efficacia, la disponibilità del codice sorgente e l’adozione di clausole di assistenza e manutenzione per correggere errori ed effetti indesiderati.

L’A. esamina in quali fasi l’IA possa essere legittimamente impiegata: individua quella preparatoria(localizzazione di un’opera pubblica, analisi di fattibilità), quella di progettazione (selezione del progetto nel rispetto del Design Information Package) e quella di valutazione delle offerte tecniche. Quest’ultimo ambito è particolarmente delicato, perché implica scelte discrezionali su parametri articolati (miglioramenti, sostenibilità, qualità architettonica, contenimento dei costi, selezione dei materiali) che non possono essere integralmente demandati alla macchina. Lo strumento più diffuso ed efficace risulta essere quello dei Large Language Models (LLM), la cui efficacia dipende dalla qualità della costruzione e dalla presenza di un rigoroso sistema di controllo e governance sia ex ante che ex post.

Quindi, sono illustrate quattro Proof of Concept (ossia un progetto “piccolo e mirato” per verificare la funzionalità di uno strumento) sperimentate da Consip. La prima riguarda un assistente per la predisposizione di una bozza d’ordine: l’utente interagisce con l’assistente per la ricerca dei progetti e la creazione del documento d’ordine, con il sistema che fornisce un servizio automatico di completamento del modulo; l’operatore residuale ha solo il compito di verificare la correttezza dei dati. La seconda è un assistente alla catalogazione degli articoli, che opera con due modalità: classificazione a singola compilazione (manuale) e a compilazione multipla (caricamento di documenti analizzati dall’IA). La terza riguarda il portale dei soggetti aggregatori, che ne interconnette 35 (Consip, centrali di committenza regionali, città metropolitane) con la Banca Dati Nazionale dei Contratti Pubblici dell’Anac. Il problema centrale emerso è la diversità semantica dei diversi strumenti, che generano ostacoli e discrepanze. La quarta è un CRM evoluto con funzioni di chatbot, che gestisce le relazioni con gli utenti dell’ecosistema di e-procurement. Il sistema opera su due livelli: il primo è affidato a un operatore umano, il secondo a un gruppo esperto; quando anche questo non riesce a trovare risposte nella knowledge base, interviene il sistema di IA, che abbozza una risposta. I risultati sembrano promettenti quanto a ottimizzazione dei tempi e standardizzazione linguistica, anche se la casistica è ancora ristretta e occorre cautela.

Le conclusioni del capitolo raccomandano l’adozione di una road map di medio-lungo termine, con definizione chiara di obiettivi e KPI tecnici, scalabilità e replicabilità delle soluzioni. Sono suggerite metodologie di openinnovation e la creazione di figure stabili come l’AI Officer o il Data Steward. Sul piano tecnologico, l’A. raccomanda infrastrutture cloud certificate o asset ibridi, privilegiando software open source per garantire la piena conoscibilità del funzionamento degli strumenti e una maggiore tutela dei dati sensibili raccolti.

Il decimo capitolo (“Rivoluzione algoritmica e accertamento dei tributi”, scritto da Francesco Spinello) indaga l’amministrazione finanziaria e l’uso di algoritmi nell’accertamento tributario, alla luce della legge delega per la riforma fiscale e dei relativi decreti delegati. L’A. muove dalla considerazione che i progressi tecnologici proseguono un dibattito già sviluppatosi in materia tributaria ed evidenzia come l’impiego degli algoritmi incida su aspetti fondamentali quali i soggetti passivi e il presupposto del tributo e pervada tanto i comportamenti dei contribuenti (dichiarazioni precompilate, liquidazioni automatizzate) quanto l’azione dell’amministrazione finanziaria. La legge delega ha fornito ulteriore impulso, prevedendo il ricorso a nuove tecnologie per prevenire e contrastare l’evasione e l’elusione fiscale, così come risposte scritte mediante servizi di interlocuzione rapida. La normativa individua tre ambiti di applicazione: la funzione predittiva(prevenzione dell’evasione), la funzione preventiva (snellimento degli interpelli per i contribuenti minori) e la funzione di selezione (identificazione dei soggetti a più alto rischio fiscale).

All’analisi circa l’applicabilità dei principi, tradizionali e no, anche in questo settore, mento segue la considerazione che, nel diritto tributario, l’ambito naturale di operatività degli algoritmi è la fase istruttoria, cui deve far seguito un procedimento fondato sul principio del contraddittorio e sull’intervento necessario del funzionario persona fisica.

Con specifico riferimento all’analisi automatizzata del rischio fiscale, si consente l’utilizzo di modelli deterministici o probabilistici — anche mediante soluzioni di statistica inferenziale — per interconnettere le informazioni presenti nelle banche dati dell’amministrazione finanziaria e associare la probabilità di accadimento a un determinato rischio fiscale. L’A. rileva, in merito, diverse perplessità interpretative. In primo luogo, il legislatore delegato consente di porre gli esiti di tale analisi a fondamento di non meglio precisate finalità di contrasto all’evasione, con un’ambiguità già presente nella legge delega. In secondo luogo, l’inserimento dell’attività di analisi del rischio tra i poteri istruttori solleva il dubbio che gli esiti possano confluire nella motivazione dell’atto impositivo come elementi presuntivi, con il problema cruciale dellaconoscibilità dell’algoritmo e un ostacolo alla comprensione del percorso logico-giuridico alla base della decisione e con compressione del diritto di difesa.

Il capitolo esamina, poi, il concordato preventivo biennale, che prevede l’utilizzo di processi decisionali completamente automatizzati per la determinazione della proposta da sottoporre al contribuente. Si tratta di un impiego in funzione inferenziale e probabilistica: il software dovrebbe prevedere l’ammontare dei proventi futuri di un dato contribuente nel corso del biennio, sulla base di un’analisi supervisionata riferita a campioni di contribuenti per settore (training set), con una fase di addestramento del modello e una successiva fase di calcolo statistico in cui viene attribuita al singolo soggetto una previsione del valore della variabile risposta. La metodologia fa riferimento al dato storico delle redditività — reddito operativo degli ultimi tre esercizi, media ponderata in base ai punteggi di affidabilità — e individua un livello minimo di redditività settoriale desunto dalle spese per lavoro dipendente.

Anche altre applicazioni si rivelano significative: le liquidazioni automatizzate delle dichiarazioni dei redditi e dell’Iva, gli Indici sintetici di affidabilità (Isa) fiscale, che esprimono su una scala da 1 a 10 il grado di affidabilità del contribuente con funzione di emersione spontanea delle basi imponibili; e la dichiarazione precompilata, che pur non riguardando direttamente l’accertamento, lo condiziona fortemente, potendo trasformarsi in accertamenti parziali automatici meno garantisti dei controlli formali e più penalizzanti sul piano sanzionatorio.

Emergono criticità significative sulla tutela del contribuente sottoposto alle procedure automatizzate. Il semplice richiamo alla normativa a tutela della riservatezza si rivela insufficiente, e l’AI Act non inserisce tra i sistemi di rischio elevato quelli impiegati dall’amministrazione finanziaria. Le norme consentono all’Agenzia delle Entrate di limitare i diritti dei soggetti interessati in tema di protezione dei dati personali, rimettendone la disciplina a un regolamento del Ministero dell’Economia e delle finanze, ed è altresì ammesso l’utilizzo di informazioni pubblicamente disponibili, con il rischio di data scraping da fonti non attendibili, nonostante il Garante ne avesse raccomandato l’espunzione. Sui rischi di discriminazione, l’A. osserva che l’analisi probabilistica, basata sui dati relativi ai contribuenti già oggetto di controllo, può indurre una selezione che penalizza chiunque abbia pregresse contestazioni — a prescindere dall’esito — e preserva coloro che risultino del tutto ignoti all’amministrazione finanziaria. Sul fronte sanzionatorio, emerge il problema dell’errore indotto dall’algoritmo: in assenza di un intervento legislativo, l’A. esplora possibili ricostruzioni — dalla causa di non punibilità per obiettive condizioni di incertezza, alla figura dell’autore mediato, con la possibile imputabilità della sanzione alla software house, fino al modello della responsabilità degli enti — concludendo che è necessario recuperare l’aderenza della sanzionabilità alla colpevolezza del contribuente, escludendone le ipotesi in cui abbia fatto il possibile per rispettare i propri doveri fiscali ma, per ragioni indipendenti dalla sua volontà, non vi sia riuscito. Il testo si conclude auspicando il rafforzamento della formazione tecnica del personale dell’amministrazione finanziaria, un’effettiva supervisione umana consapevole, non deferente e capace di contrastare il rischio di automation bias, nonché la piena conoscibilità dell’algoritmo per tutelare i diritti di difesa, la capacità contributiva e il giusto procedimento di accertamento tributario.

Nell’insieme, il Volume curato da Marco Macchia consente di individuare una costellazione di principi giuridici fondamentali che fungono da filo conduttore per valutare la legittimità, i limiti e le garanziedell’impiego della cd. IA nella pubblica amministrazione. Tali principi non operano in isolamento, ma interagiscono continuamente con le specificità tecniche di ogni caso. Il realismo di fondo dell’opera aiuta a comprendere le di ogni settore analizzato.

La legalità algoritmica costituisce il pilastro centrale di tutti i settori. Dalla mera discrezionalità organizzativa potrebbe assistersi a una transizione verso la prescrizione di una base specifica che disciplini l’uso dell’IA, come testimoniato dalla legge italiana e dal regolamento europeo. Tuttavia, persistono problemi significativi: nel capitolo sul Piracy Shield  si critica l’inversione logica secondo cui la piattaforma è stata accettata prima di definire i requisiti tecnici legali; nel controllo delle frontiere la base legale esiste, ma si discute se sia sufficiente a garantire la legalità sostanziale degli indicatori di rischio definiti in modo discrezionale da Frontex; nella sicurezza pubblica, si evidenzia l’assenza di una base legale primaria per l’uso probatorio in tribunale, creando un vuoto giuridico.

Quindi, la non esclusività della decisione impone che l’algoritmo non possa mai essere l’unico decisore in procedimenti che incidono su diritti o libertà. Deve esistere sempre un intervento umano significativo, distinguendosi tra un controllo umano formale/simbolico (come mera ratifica dell’output) e uno sostanziale/critico.

Quanto alla conoscibilità e trasparenza, essa appare molto difficile da attuare, in quanto si scontra con la natura intrinsecamente opaca di molte soluzioni. Non basta, poi, conoscere cosa ha deciso l’algoritmo, ma è necessario comprendere perché, e questo è ancora più difficile.

Non si possono tralasciare la non discriminazione e i bias: tema noto, ma non superato, come mostrano i casi problematici del controllo delle frontiere e del riconoscimento facciale. Se si tiene bene a mente che l’informatica non è neutra, si comprende bene che affidare ad algoritmi dati storici che riflettono pregiudizi passati, si cristallizzano le disuguaglianze, con rischi sistemici causati da discriminazioni etniche, di genere o sociali che sono amplificate da questi strumenti.

Anche principi generali, come la proporzionalità, vengono costantemente in rilievo: l’uso dell’IA deve essere limitato a quanto strettamente necessario per raggiungere un legittimo interesse pubblico, senza ledere sproporzionatamente i diritti dei cittadini, specialmente privacy e libertà personale. Sfida ancora irrisolta: nel controllo delle frontiere, la raccolta di dati biometrici massiva e la profilazione dei migranti devono risultare necessarie e proporzionate al fine di sicurezza, senza trasformarsi in strumenti di controllo sociale generalizzato.

Last but not least, il problema della responsabilità è quanto mai attuale: di esso, il Volume restituisce una elevata frammentazione tra amministrazione, funzionari, fornitori del software e dei sistemi di programmazione statistica. L’amministrazione che si “lava le mani” dietro l’algoritmo è un rischio molto concreto che mina anche la tutela giurisdizionale.

Quanto ai problemi che emergono dalle analisi condotte, si segnalano l’opacità algoritmica, l’erosione della discrezionalità, nella quale la logica quantitativa può ignorare valori come equità e proporzionalità; l’uso distorto e non dichiarato degli strumenti informatici; una frattura tra velocità operativa (spinta dalle esigenze di sicurezza ed efficienza economica) e garanzie giuridiche; l’automazione spinta e il connesso rischio di un controllo umano meramente formale.

La lezione trasversale che ne scaturisce è che l’efficienza tecnica va costantemente ricondotta entro margini di legalità. Il futuro non risiede nell’automazione totale, ma in un modello ibrido nel quale l’efficienzaè affidata alla macchina, il giudizio all’uomo, e il diritto funge da strato di contenimento necessario per evitare che la tecnologia diventi un potere autonomo e opaco. L’innovazione tecnologica non deve essere un fine, ma uno strumento subordinato ai principi costituzionali e ai diritti fondamentali.

Quanto alla vigilanza umana, essa deve essere reale e non formale: tuttavia, occorre aggiungere alcune precisazioni. la responsabilità va collocata nelle sedi opportune e attribuita a monte, inquadrando correttamente i ruoli di chi assume decisioni e introduce determinati sistemi informatici all’interno dellapubblica amministrazione, nonché a chi crea e a chi fornisce tali sistemi: in caso contrario, vi è un altro fortissimo rischio, spesso sottaciuto. Esso è di natura organizzativa e sociale: rendere responsabile solo l’ultimo anello della catena, e magari i soggetti più deboli, che si trovano a dover usare sistemi non scelti da loro, e che non sono in grado di difendersi – divenendo così nuovi capri espiatori.

Appaiono necessari, soprattutto, nuovi sforzi formativi: senza un massiccio investimento nella formazione del personale pubblico per gestire criticamente questi strumenti, la pubblica amministrazione— già profondamente trasformata dall’algoritmo — deve governare questa transizione con cautela, affinché la tecnologia rimanga al servizio dei diritti e non diventi un mezzo di sorveglianza o di ingiustizia sistemica.

È ormai di dominio pubblico che l’uso dell’informatica da parte delle strutture pubbliche, altrimenti conosciuta come trasformazione digitale, ponga quesiti di ordine costituzionale e amministrativo, nazionale e sovranazionale, che sconfinano nel dominio della politica. Questo Libro, attraverso una estesa e approfondita disamina di casi reali, contribuisce a inquadrare correttamente il fenomeno: esso può anche essere letto come un vivido affresco del tempo presente, donato ai decisori perché possano compiere, ora e in futuro, scelte avvedute.