Come rendere trasparenti gli algoritmi utilizzati dalle città per offrire servizi pubblici migliori: Amsterdam ed Helsinki adottano i registri dell’Intelligenza Artificiale

Gli algoritmi giocano un ruolo sempre più importante nelle nostre vite quotidiane; in tutto il mondo, anche le città iniziano a fare uso della digitalizzazione col fine di fornire al meglio certi servizi pubblici. Senza dubbio, quando utilizzata per garantire un migliore funzionamento dei servizi pubblici offerti ai cittadini, l’IA deve operare secondo i principi propri delle altre attività amministrative locali. Proprio al fine di garantire l’operabilità della suddetta innovazione secondo i surriferiti principi, le città di Amsterdam ed Helsinki, per prime al mondo, hanno adottato dei registri che rendono trasparenti gli elenchi degli algoritmi utilizzati dalle città e forniscono dettagli circa il loro funzionamento.

Gli algoritmi, è evidente, giocano un ruolo sempre più importante nelle nostre vite quotidiane; in diverse parti del mondo, anche le città, per offrire al meglio i servizi pubblici di cui sono garanti, iniziano a fare uso della digitalizzazione (e, dunque, dell’Intelligenza Artificiale, che è fortemente associata ad essa).

È indubbio che grazie all’IA , le città, rendendosi “intelligenti” (smart), riescono a offrire servizi pubblici migliori, disponibili ovunque e in qualsiasi momento.

Ciò è particolarmente evidente laddove si consideri il fenomeno “chatbot” (il software progettato per consentire all’utente di un servizio di conversare con un “agente intelligente” come se stesse dialogando con un umano).

Si consideri il chatbot che indirizza gli utenti ai giusti servizi di salute digitale e fornisce consulenza, tra le altre, su questioni odontoiatriche; ovvero, ancora, il chabot che consente all’utente che s’imbatta in rifiuti urbani, oppure in problemi di manutenzione delle strade — ovvero, ancora, in una situazione di traffico pericolosa -, di comunicare il disguido al Comune di riferimento tramite un sistema di segnalazione online.

Si tratta di servizi che riducono gli oneri amministrativi e che veicolano le richieste/segnalazioni presso i reparti competenti (quindi, in maniera più certa e più rapida).

Senza dubbio, quando utilizzata per garantire un migliore funzionamento dei servizi pubblici offerti ai cittadini, l’IA deve operare secondo i principi applicabili alle attività amministrative locali (in specie, secondo i principi di responsabilità, trasparenza e sicurezza).

Proprio al fine di garantire l’operabilità della suddetta innovazione, secondo i surriferiti principi, le città di Amsterdam ed Helsinki, per prime al mondo, hanno adottato dei registri che rendono trasparenti gli elenchi degli algoritmi da loro utilizzati e forniscono dettagli circa il loro funzionamento.

Si tratta di registri che forniscono a) una panoramica dei sistemi algoritmici di IA adoperati dalle/nelle città; b) i dettagli sui dati utilizzati da questi sistemi; c) la loro logica di funzionamento; d) la loro governance.

I registri, che sono stati sviluppati da Saidot, una società finlandese che sviluppa strumenti che aiutano le istituzioni pubbliche a rendere conoscibili le proprie iniziative relative al tema dell’Intelligenza Artificiale, contengono, attualmente, solo una selezione limitata di applicazioni.

L’intento delle due città è comunque quello di aggiungere quante più applicazioni possibili al registro durante l’autunno: alla fine, i registri includeranno tutti gli algoritmi cittadini.

Evidentemente, si tratta di versioni beta, che, come specificato da Aik van Eemeren (Head of Public Technology nella città di Amsterdam), dovranno essere perfezionate e migliorate anche alla luce dei suggerimenti che verranno forniti dagli utenti-cittadini. Quest’ultimo aspetto (espressamente previsto da entrambi i registri, che sono reperibili ai seguenti indirizzi: https://ai.hel.fi/; https://algoritmeregister.amsterdam.nl/%C2%A0) è particolarmente importante, visto che consente di assicurare — almeno sul piano formale — una effettiva e imprescindibile partecipazione degli utenti al processo di sviluppo di una IA che sia effettivamente incentrata sull’uomo.

Entrambi i registri avranno dunque bisogno di molti più dettagli, prima di poter essere qualificati come effettivamente capaci di migliorare la comprensione da parte del pubblico delle modalità di utilizzo, da parte delle città, degli algoritmi.

Tuttavia, essi sono già potenzialmente molto utili: grazie a questo sistema, i cittadini potranno essere messi nelle condizioni di accedere a informazioni comprensibili e aggiornate su come gli algoritmi influenzino le loro vite; potranno cioè esercitare il diritto di conoscere effettivamente i sistemi di raccolta dei loro dati.

Ciò è di particolare importanza anche qualora l’intelligenza artificiale venga utilizzata solo una volta che sia stato previamente rilasciato il permesso al suo utilizzo da parte dei singoli residenti. Qualora non sia garantita la effettiva conoscibilità del sistema di raccolta dati, si può finanche dubitare della legittimità del consenso eventualmente accordato dagli interessati, posto che questi lo esprimerebbero senza essere stati messi previamente nelle condizioni di potere davvero decidere consapevolmente.

Certamente, a questi registri potranno concretamente accedere solo coloro che saranno dotati di specifici strumenti e capacità digitali; è dunque possibile che un sistema di questo tipo risenta, nella sua attuazione, del cd. digital devide. Quindi, potrebbe non essere in grado di risolvere il problema della opacità dell’IA con riferimento a una parte della popolazione cittadina, o, in misura più grave, potrebbe aumentare le discriminazioni (si considerino le persone anziane, ovvero le persone che hanno poca dimestichezza con la tecnologia -e che, in ogni caso, per potere usufruire di certi servizi, devono comunque assoggettarsi al meccanismo dell’IA-).

Problema da non sottovalutare in Italia, ad esempio, dove, come rilevato anche in altri post di questo Osservatorio, il livello di digitalizzazione non è ancora del tutto ottimale e influisce, dunque, sul divario già esistente.

Licenza Creative Commons
Quest’opera è distribuita con Licenza Creative Commons Attribuzione – Non commerciale – Non opere derivate 4.0 Internazionale.