Alexa Voice Service è l’assistente intelligente di Amazon Echo, che permette di semplificare molte operazioni della vita di tutti i giorni – come accendere la musica e cambiare canzone, rispondere ai messaggi, impostare sveglie e molto altro ancora – grazie all’attivazione per il mezzo di comandi vocali. Nell’elaborato che segue saranno analizzati i vantaggi – solo apparenti? – e gli svantaggi che la scelta, del tutto personale, di utilizzare tali dispositivi presuppone.
Amazon Echo è uno speaker che, connesso all’alimentazione elettrica e a Internet, consente di eseguire diverse operazioni tramite l’uso di comandi vocali, con l’ausilio di Alexa Voice Service – un’intelligenza artificiale, su cloud – che svolge i più svariati compiti, come accendere la musica, alzare e abbassare il volume, impostare sveglie e promemoria, ottenere informazioni su meteo e traffico, rispondere a telefonate e messaggi, acquistare prodotti su Amazon.
Accanto ai risvolti pratici che permettono di classificare Alexa come un utile e divertente sostegno alle attività di tutti i giorni, l’assistente personale di Amazon Echo presenta sicuramente più di un lato oscuro, legato strettamente con il diritto alla privacy delle persone che, volenti o nolenti, si interfacciano con il dispositivo.
Questo è quanto sostenuto dalle numerose polemiche sorte negli ultimi tempi. Si ricordano, per esempio, le diverse cause intentate negli USA contro Alexa per aver registrato minori senza il consenso dei genitori. Gli avvocati generalmente sostengono che sarebbe stato sufficiente che i creatori avessero pensato ad un meccanismo atto a richiedere il consenso dei soggetti registrati per la prima volta – individuabili grazie al riconoscimento vocale.
Tale scandalo ha fatto seguito alla notizia secondo cui i dipendenti di Amazon starebbero ascoltando le conversazioni dei possessori di Alexa per sviluppare sistemi che consentano di colmare le lacune dell’assistente, resa pubblica da un articolo di Bloomerang. Non risulta ancora chiaro fino a che punto tali intromissioni siano penetranti: se, come sostengono i vertici di Amazon, sia annotato unicamente un campione ridotto di conversazioni – con il solo fine di migliorare l’esperienza del cliente – oppure se gli operatori siano addirittura in grado di accedere alle generalità e alla localizzazione dei soggetti ascoltati.
Le principali questioni sono collegate ad alcuni fenomeni che andrebbero valutati e tenuti in considerazione. È presente, innanzitutto, una forte asimmetria informativa tra produttore e consumatore – in quanto quest’ultimo difficilmente è posto in condizione di controllare le modalità di trasmissione e di utilizzo dei propri dati. Il consenso, specialmente se informato, rappresenta un altro punto debole del sistema, perché l’utilizzatore raramente riceverà un’informativa esaustiva e completa. L’elevata quantità di dati ricevuti dal dispositivo permette inoltre una profilazione fortemente intrusiva delle abitudini degli utenti.
Questi rilievi hanno condotto gli sviluppatori ad alcune modifiche sostanziali del sistema, che permette oggi di cancellare quanto registrato semplicemente con comandi vocali, nonché la possibilità di disattivare il microfono e la videocamera – anche a tutela di eventuali “ospiti”, che potrebbero non gradire una identificazione forzata.
Un meccanismo di questo tipo presenta sicuramente dei risvolti pratici e utili – anche se a tratti inquietanti. Potrebbe contribuire, infatti, a modificare il sistema processuale attraverso una rivisitazione high – tech della prova testimoniale. Il primo esempio risale al 2015, in Arkansas, quando James Bates è accusato dell’omicidio di un uomo trovato morto nella sua vasca idromassaggio. Amazon per due volte rifiuta di consegnare i dati registrati da Alexa nell’appartamento “intelligente” dell’imputato, fino a che lo stesso Bates acconsente a che le registrazioni siano consegnate alle forze dell’ordine. L’ultimo caso risale alla fine del 2019 e riguarda l’omicidio di una donna, nel suo appartamento, di cui è accusato il marito, in Canada.
In altri ambiti, come per esempio in tema di riconoscimento facciale, la sensazione di essere ripresi costantemente, di non rimanere mai davvero soli, suscita comprensibilmente tanto scalpore da scatenare proteste e ricorsi. Non risulta agevole comprendere, allora, in che modo le “comodità” garantite da un sistema come quello descritto possano essere auspicate e scelte dagli utenti se anche questo sembri poter presupporre l’accettazione del rischio di un’evidente – sebbene non ancora del tutto chiara e definita – limitazione della propria riservatezza.
Quest’opera è distribuita con Licenza Creative Commons Attribuzione – Non commerciale – Non opere derivate 4.0 Internazionale.