Per Bruno Romano gli algoritmi rischiano di affermarsi come strumento di dominio totalitario da parte di una ristretta élite economico-finanziaria titolare dei mezzi e delle capacità per acquisire ed elaborare i dati rispetto alla restante massa dei singoli umani, relegati nel ruolo di meri acquirenti-utenti.
Con lo sviluppo delle ICT il mondo è entrato in quella che è stata definita la «quarta rivoluzione» (L. Floridi, La quarta rivoluzione. Come l’infosfera sta trasformando il mondo, Milano, 2017), il cui tratto maggiormente caratteristico è dato dalla progressiva, e sempre più avvolgente, compenetrazione tra reale e digitale. «Il mondo digitale online trabocca nel mondo analogico offline, con il quale si sta mescolando» (p. 47), osserva Luciano Floridi, e ciò sta trasformando non solo la realtà esterna ma anche la comprensione che l’uomo ha di se stesso, disvelandone la natura intrinsecamente relazionale.
Al cuore di tale rivoluzione vi sono gli algoritmi – in particolare gli algoritmi predittivi –, i quali hanno ormai acquisito «una pervasività senza confini» (B. Romano, Algoritmi al potere, Torino, 2018, p. 11).
Romano ravvisa negli algoritmi l’incarnarsi di ciò che Martin Heidegger ha definito il pensiero calcolante, ossia il pensiero che – in opposizione al pensiero meditativo – nasce quando l’uomo non si colloca più nel mondo, bensì pone il mondo innanzi a sé e, oggettivizzandolo, ne dispone in vista del suo impiego e della sua manipolazione.
Al pensiero calcolante, scrive Heidegger, «il mondo appare come un oggetto, un oggetto a cui il pensiero calcolante sferra i suoi assalti, ai quali, si ritiene, nulla è più in grado di opporsi, mentre la natura si trasforma in un unico gigantesco serbatoio di energia al servizio dell’industria e della tecnica» (M. Heidegger, L’Abbandono, Genova, 1983, p.34).
Ponendosi in ideale linea di continuità con la riflessione di Heidegger, per Romano l’algoritmo rappresenta, dunque, il trionfo finale del pensiero calcolante, il momento in cui il pensiero cede il testimone alla macchina affinché quest’ultima lo possa finalmente sostituire.
Caratteristica immanente al dominio degli algoritmi è il sistematico rovesciamento dei mezzi in fini dell’azione. L’algoritmo assurge «non tanto strumento neutrale soggetto al nostro arbitrio, ma quanto un portatore autonomo di una credibilità che sconfina, a tratti, in una veridicità di stampo divino», «magnificato da un’importanza scientifica che si estende dai fondamenti teorici alle più imprevedibili applicazioni materiali» tale da «spingerci a delegare alla macchina non solo i nostri calcoli, ma anche le ragioni più riposte per le quali questi sono stati ideati» (P. Zellini, La dittatura del calcolo, 2018, p. 87-89).
In questo capovolgimento dialettico tra mezzi e fini dell’azione, mette in guardia Romano, l’uomo rischia di dimenticare che gli algoritmi «sono strumenti e non come scopi, ovvero un insieme di operazioni prive di intenzioni proprie e pertanto mancanti della capacità di ideare e di compiere scelte e decisioni giuridicamente imputabili ad un io» (p. 100).
A differenza dell’uomo, che ha la capacità di determinare i fini della propria azione, gli scopi che gli algoritmi perseguono sono pur sempre esterni ad essi, in quanto concepiti e voluti da una ristretta élite economico-finanziaria titolare dei mezzi e delle capacità per acquisire dati, elaborali e destinare i risultati del trattamento alla grande massa dell’umanità, configurata nel ruolo di acquirenti-utenti.
In questo modo – sostiene Romano – «il potere degli algoritmi è destinato ad essere il dominio elitario di pochi, generando così sproporzione e diseguaglianza e quindi negazione dei più iniziali principi generali dei diritti umani, volti a garantire la protezione ed uguaglianza nelle relazioni interpersonali» (p. 27).
Tale aspetto segna la più vistosa linea di frattura con quelli che per Romano sono i tre fenomeni connaturati alla condizione umana: il gioco, il dialogo ed il diritto.
Comune a questi tre fenomeni è la dimensione relazione della creazione di senso, trovato attraverso l’atto intersoggettivo del «convenire instituente» delle persone, irriducibile al pensiero computazionale, che invece si limita ad eseguire «degli schemi computazionali univoci, privi dell’esercizio critico ed originale della soggettività dell’io e del tu, soggetti autori della plurivocità delle parole del discorso» (p. 122).
La qualità del relazionarsi non può dunque essere tradotta in schemi algoritmici, poiché concerne l’esercizio stesso della soggettività, in cui «ogni persona è debitrice nei confronti delle altre persone, che avviano la comparazione tra molte ipotesi di senso imputabili alle loro distinte personalità, che si manifestano in decisioni di un io non riducibile ad un tu, pur essendo la luminosità dell’altro, la liberazione dalla caduta in un narcisismo che spegne la ricerca» (p. 124).
Data l’assoluta alterità tra l’algoritmo e la dinamica relazionale in cui si esprime l’essenza della natura umana, lo iato tra il pensiero calcolante ed il pensiero meditativo sembra rimanere – nella riflessione di Romano – incolmato ed incolmabile.
Eppure, come è stato osservato, «per quanto possa risultare attraente come tattica progettuale, la semplicità dell’automazione è un miraggio. Ignorare il fattore umano non rimuove il fattore umano» (N. Carr, La gabbia di vetro, Prigionieri dell’automazione, Milano, 2015, p. 182), il quale resta pur sempre presente anche negli algoritmi.
La riflessione di Romano sullo statuto del software può dunque costituire un ideale punto di partenza per un discorso filosofico che – prendendo le mosse dalle caratteristiche e dai limiti del pensiero calcolante, di cui gli algoritmi sono espressione – tenti di ricostruire in termini virtuosi il rapporto cognitivo tra l’intelligenza artificiale e l’intelligenza biologica.
Non necessariamente – come evidenzia Luciano Floridi – questo rapporto deve porsi in termini antagonistici. Gli agenti artificiali sono, e probabilmente sono destinati a rimanere, macchine puramente sintattiche, in grado di raccogliere, archiviare, correlare quantità enormi di dati ed informazioni, ma incapaci di cogliere il significato semantico.
Pur nei suoi limiti cognitivi, l’intelligenza umana è invece un «motore semantico», in grado di cogliere il significato, le relazioni tra le informazioni e compiere un’attività ermeneutica su di esse.
«Processare informazioni dotate di significato è precisamente ciò in cui gli agenti artificiali come noi primeggiano» (L. Floridi, La quarta rivoluzione. Come l’infosfera sta trasformando il mondo, cit., p. 157), e tale primato non sembra vicino ad essere scalfito dalle macchine.
Proprio il riconoscimento che algoritmi sono una pura incarnazione del pensiero calcolante può fungere da pungolo per imprimere ad essi una direzione di senso, utilizzandoli – come strumenti, quali essi pur sempre sono – per aumentare la capacità cognitiva umana nell’ottica del perseguimento di scopi autenticamente voluti dall’uomo.
Quest’opera è distribuita con Licenza Creative Commons Attribuzione – Non commerciale – Non opere derivate 4.0 Internazionale.