Diritti in loop: algoritmi e garanzie a confronto nel procedimento amministrativo

La digitalizzazione del procedimento non riguarda solo documenti e protocolli: investe il cuore delle garanzie procedimentali, dalla partecipazione al contraddittorio, dall’obbligo di motivazione al controllo giurisdizionale. Cosa accade quando una decisione amministrativa è prodotta, in tutto o in parte, da un algoritmo? Qual è il ruolo dell’human in the loop? E fino a che punto il giudice può e deve spingersi nel sindacare la “scatola nera” delle decisioni automatizzate?

Partecipazione, contraddittorio, motivazione e accesso sono le colonne portanti del procedimento amministrativo in Italia (secondo quanto delineato dalla legge 241/1990) e in Francia (dal Code des relations entre le public et l’administration). L’introduzione di sistemi algoritmici non elimina questi diritti, ma li mette alla prova. Quando una decisione non è più il risultato esclusivo di una valutazione umana, ma passa attraverso una catena di trasformazioni automatiche dei dati, occorre chiedersi che ne sia del “giusto procedimento”.

In Italia, gli artt. 7–10-bis della l. 241/1990 garantiscono la partecipazione degli interessati, imponendo l’avviso di avvio del procedimento e il preavviso di rigetto. Nella pratica, però, un procedimento automatizzato tende a comprimere questi spazi: l’istruttoria viene “compressa” in una serie di operazioni algoritmiche, spesso non visibili né comprensibili per il cittadino. Il rischio è quello di un “procedimento muto”, in cui l’interessato riceve solo un esito numerico o un punteggio, senza poter incidere sui criteri di valutazione.

È qui che entra in gioco il principio dello human in the loop, ripreso anche dal GDPR (art. 22) e valorizzato tanto dalla dottrina quanto dalla giurisprudenza italiana e francese. L’idea è semplice: anche quando l’algoritmo elabora enormi quantità di dati e applica regole complesse, la coerenza complessiva del processo deve essere garantita da un intervento umano effettivo, non meramente formale.

L’algoritmo può essere un “pilota automatico”, ma non può sostituire integralmente il giudizio discrezionale nelle decisioni che incidono su diritti fondamentali (sul tema si veda L. Torchia, Lo Stato digitale, Una introduzione).

In merito, è stata evidenziata spesso la tensione tra automazione e riserva di umanità: se l’algoritmo opera in ambiti come il welfare, la sanità, la sicurezza, è indispensabile un filtro umano che valuti il contesto e i casi eccezionali (L. Magli, AI Act: i diritti sono tutelati?; B. Marchetti, La garanzia dello Human in the Loop alla prova della decisione amministrativa algoritmica; A. Di Martino, Tecnica e potere nell’amministrazione per algoritmi)

Il controllo giurisdizionale si trova così ad affrontare due sfide. Da un lato, deve continuare a sindacare i vizi “classici” (incompetenza, violazione di legge, eccesso di potere), pur quando la decisione è formalmente “neutra” perché prodotta da un software. Dall’altro, deve decidere quanto penetrare nella struttura algoritmica: verificare solo la coerenza esterna (controllo “debole”) o arrivare a sindacare anche la scelta dei dati, dei parametri, dei modelli matematici (controllo “forte”)?

La giurisprudenza italiana ha oscillato tra un atteggiamento più deferente e fasi in cui il sindacato è stato particolarmente incisivo, specie nei confronti delle autorità indipendenti.

In Francia, le celebri decisioni Gomel (Conseil D’État, 4 avril 1914, Gomel, Contrôle par le juge de la qualification juridique des faits à laquelle se livre l’administration) e Camino (Conseil d’État, sent. Camino, 14 gennaio 1916) avevano già aperto, a inizio Novecento, la strada al controllo della qualificazione giuridica dei fatti e dell’esattezza materiale. Oggi, con l’uso degli algoritmi, queste tecniche vengono “riattivate” in chiave digitale: il giudice verifica non solo che l’algoritmo sia stato applicato correttamente, ma anche che i fatti di partenza siano veri, completi e giuridicamente pertinenti.

Nel mezzo, rimane l’obbligo di motivazione: in Italia, ogni provvedimento deve indicare i presupposti di fatto e le ragioni giuridiche che lo sorreggono (art. 3 l. 241/1990). Nelle decisioni automatizzate, ciò significa rendere intelligibile il contributo dell’algoritmo alla decisione.

In Francia, il CRPA impone di indicare espressamente quando una decisione si basa su un trattamento algoritmico e di fornire, su richiesta, informazioni sul suo funzionamento.

Non si tratta solo di trasparenza tecnica, ma di garanzia dei diritti procedimentali fondamentali. Se la partecipazione e il contraddittorio sono compressi, se la motivazione si riduce a un punteggio e se l’accesso ai criteri di calcolo è negato, il rischio è che l’algoritmo diventi il nuovo volto di un’autorità amministrativa opaca e poco controllabile.

L’equilibrio, in prospettiva, passa da due scelte: mantenere una presenza umana significativa nei punti critici del procedimento (istruttoria, bilanciamento degli interessi, decisione finale) e attrezzare il giudice amministrativo per un sindacato consapevole sulle decisioni algoritmiche, che non si fermi alla superficie, ma sappia leggere e valutare – con l’aiuto di esperti – i meccanismi interni dei sistemi di IA utilizzati dalla pubblica amministrazione.