Punti di vista: l’AI Act

 

Introduzione

 

Abstract: La legge europea sull’intelligenza artificiale (AI Act), nel bene e nel male, è un intervento legislativo da cui non si può prescindere: ha fatto e farà discutere molto, per la sua ambizione e per le sue carenze. Non risolve i problemi profondi della cd. intelligenza artificiale, su cui si deve fare ancora molta chiarezza, sgonfiando l’hype, eliminando ogni forma di antropomorfismo, anche nel linguaggio in uso, e sottolineando gli interessi economici di fondo. La legge europea, allo stesso tempo, è arrivata per restare. Presenta una doppia anima, dove la sfida notevole di governare l’ultimo ritrovato della tecnica in inserisce nel più classico degli strumenti dell’integrazione europea: le disposizioni relative al funzionamento del mercato. La strada verso gli alti lidi della vita associata e della democrazia è decisamente in salita. La rincorsa a un nuovo “Brussels effect” chiarisce gli intenti dell’Unione di posizionarsi nello scenario internazionale, dove gli interessi economici sono fortissimi, ma ne sfuggono i contorni. L’impatto innegabile sul settore pubblico e su quello privato darà vita a una tensione costante. I temi scottanti della tutela dei diritti e del lavoro, solennemente proclamati, sono lasciati indietro, suscitando profondi interrogativi e la necessità di ricorrere a normative parallele. L’Osservatorio sullo Stato digitale, con un nuovo “punto di vista”, offre una serie di commenti attraverso la voce di sette Autori.

L’AI Act è qui per restare.

Potrebbe presentarsi così la nuova legge europea sull’intelligenza artificiale (IA). Una scelta di peso, ma controversa; una decisione sui valori, che però poggia su basi di mercato. Lo stesso nome “intelligenza artificiale” è fuorviante; programmazione statistica, la definizione probabilmente (appunto) più corretta – per strumenti che non sono intelligenti, non hanno capacità di ragionamento, non assomigliano minimamente alla complessità del pensiero umano e non predicono nulla, se non il passato (ne ho scritto in un post lo scorso anno e in un editoriale quest’anno). Possono essere di ausilio in attività da automatizzare, o nell’analisi di grandi moli di dati, ma vanno compresi nella loro essenza e nei loro limiti, se non si vuole rimanere prigionieri di una dialettica sbagliata. Questi sistemi non sono destinati a sostituire l’uomo in un futuro ipotetico ma, in modo anche più pericoloso e concreto, ad aumentare la precarizzazione del lavoro. E ad accrescere la posizione dominante di specifici operatori, che si accompagnano al rafforzamento del potere politico. Alla loro base vi sono grandi interessi e remunerazioni, che possono coinvolgere scelte private e pubbliche. Lo si osserva dagli elevatissimi investimenti che hanno determinato l’hype degli ultimi due anni (che per fortuna so sta sgonfiando). È sufficiente leggere il rapporto annuale di Stanford per verificare come i fondi siano aumentati vertiginosamente, generando non solo interesse, ma anche volatilità. Ne sono un esempio le cadute del valore delle azioni di Nvdia di luglio (a ottobre, poi, le azioni hanno raggiunto una nuova vetta), interpretate, tra gli altri, da Paul Krugman come indici rivelatori di una bolla speculativa, come accadde con la “dot.com economy” all’inizio del XXI Secolo.

La legge europea è una conseguenza di questo generale contesto, che riflette dinamiche profonde legate alla tecnologia, alla produzione, alla concentrazione di risorse e potere e, infine, al mondo del lavoro. L’intervento legislativo introduce un apparato notevole e complesso, la cui applicazione sarà incerta, anche a causa di una tecnica di scrittura che affianca, alle prescrizioni introdotte, immediate eccezioni — fattore che renderà difficile l’applicazione e darà innegabilmente luogo a controversie. Gli effetti saranno, comunque, di lunga durata: la costruzione di un sistema di rischio produrrà obblighi notevoli e articolati (che daranno inevitabilmente luogo a controversie); l’introduzione di un sistema di governo ibrido rivedrà metodi e strumenti di controllo; il rapporto tra pubblico e privato, anche in questo settore, diverrà un perno della strategia europea, ricercando un equilibrio molto difficile per “far funzionare” le norme; l’applicazione extraterritoriale e le sanzioni più severe potranno consolidare un modello già esistente, ma l’efficacia e la deterrenza saranno da testare. 

Lo sforzo del legislatore appare quello di fare dell’Unione europea da apripista, anticipando i tempi e creando un modello internazionale, stile Brussel effect, senza però fornire – ancora – gli indizi di potervi riuscire. Il ricorso ai nuovi sistemi da parte del settore pubblico, con esperimenti in numero ancora poco basso, la ricerca residuale da parte dell’accademia, il rischio sistemico di restare imprigionati, stressano le dinamiche amministrative, già sofferenti per problemi endemici (a parte i casi di eccellenza, o anche solo di buon funzionamento). Non mancano rilievi teorici, idonei a divenire un terreno fertile per future ricerche, come avviene in relazione al procedimento amministrativo. L’introduzione all’interno delle pubbliche amministrazioni genera pesanti problematiche in fase di approvvigionamento (che sarebbe meglio chiarire sin d’ora, per evitare la fine ingloriosa dell’art. 68 del Cad), con potenziali fiammate di ritorno – sia per eventuali lock-in, sia per una centralizzazione dei sistemi che intrappola quelli esistenti e può costituire di per sé un rischio anche in ottica di sicurezza. Una tutela dei diritti scarsa, con strumenti di protezione e reclamo eliminati, nelle loro versioni più consistenti, durante le ultime stesure del testo. Una minaccia, quindi, al suo predecessore, che invece ha una logica opposta, basata, appunto, sui diritti: il Gdpr.

Per tutto questo, l’AI Act è destinato a restare, forse proprio perché solleverà moltissimi problemi, singolari e generali. Ci ricorda, anche in modo indiretto, che sono le istituzioni il vero strumento per creare benefici ad ampio raggio, e non limitarsi solo a pochi e limitati soggetti. 

Nel ricercare una lettura complessiva del nuovo intervento, sette Autori si sono impegnati a scrivere un commento su questa controversa ma centrale legge europea, a cui va lasciato ora lo spazio. Ne emerge un “punto di vista” dell’Osservatorio sullo Stato digitale dell’Irpa, che cerca di restituire una lettura delle disposizioni introdotte nel dibattito attuale.

Gli interventi saranno scanditi in base al seguente programma:

  1. L’uso dell’IA nelle pubbliche amministrazioni: mitologia informatica? (Gianluca Sgueo, 28 novembre 2024) 
  2. L’impatto sul procedimento amministrativo: friends or foes? (Gianluigi Delle Cave, 2 dicembre 2024) 
  3. L’ambito di applicazione e le eccezioni: convitati di pietra? (Giulia Taraborrelli, 5 dicembre 2024) 
  4. La governance è… alla pari? (Andrea Renzi, 9 dicembre 2024) 
  5. I sistemi di rischio: lungimiranza o nostalgia? (Eleonora Schneider, 12 dicembre 2024)
  6. Pubblico e privato: la convivenza è tollerabile? (Aldo Pardi, 16 dicembre 2024)
  7. I diritti sono tutelati? (Lucrezia Magli, 19 dicembre 2024)