Genitori francesi hanno fatto causa a TikTok per contenuti dannosi. La causa sostiene che l’algoritmo della piattaforma espone gli adolescenti a video che promuovono il suicidio, l’autolesionismo e i disturbi alimentari. La condotta di TikTok è da tempo nel mirino dei governi. Ad aprile il Congresso americano ha approvato una legge che obbliga a vietare TikTok a livello nazionale e il 19 gennaio il social media è stato oscurato negli USA. Anche la presidente della Commissione europea, Ursula von der Leyen, ha più volte ribadito che il social network rappresenta una minaccia agli anni dell’adolescenza: “La tutela dei minori e il lavoro contro le caratteristiche di questi social che creano dipendenza sono cose di cui l’Ue si deve occupare”.
Quando si parla di TikTok, la preoccupazione principale ruota attorno alla privacy. Tuttavia, un problema più insidioso risiede nella potenza dell’algoritmo, che è stato rilevato indirizzare gli utenti verso contenuti dannosi. Questo problema è particolarmente preoccupante per i genitori e gli educatori, poiché ciò che gli adolescenti vedono sui social network può avere un grave impatto psicologico. Per questa ragione, sette famiglie francesi hanno deciso di denunciare la piattaforma, lo scorso novembre, per una presunta mancanza di efficace moderazione dei contenuti. A raccontare la vicenda è stata Laure Boutron-Marmion, avvocato penalista specializzato nella difesa delle minori coinvolte nella denuncia, due delle quali si sono tolte la vita.
“Vi confermo che ho presentato al tribunale di Créteil un ricorso proposto da sette famiglie che denunciano tutte la stessa cosa: il deterioramento dello stato di salute fisica e mentale delle proprie figlie”, ha raccontato il legale all’emittente Franceinfo. “Purtroppo, alcune non sono più qui per parlarne”. Le sette famiglie si sono unite attorno ad un collettivo che ha preso il nome di Algos Victima. Secondo le testimonianze raccolte dal collettivo, l’algoritmo di TikTok proporrebbe numerosi video che promuovono il suicidio, l’autolesionismo e i disturbi alimentari.
“Il nostro appello è ricco di documenti e di prove tangibili per ciascuna delle storie di queste sette famiglie”, ha precisato l’avvocato. “I genitori vogliono che la responsabilità legale di TikTok sia riconosciuta in tribunale”, ha detto, aggiungendo: “Si tratta di un’azienda commerciale che offre un prodotto a consumatori che sono, per di più, minorenni. Deve quindi rispondere delle lacune del prodotto”. Questo appello si aggiunge a una denuncia penale presentata nel 2023 dai genitori di una di loro, Marie, che si è suicidata.
TikTok, come altre piattaforme di social media, è da tempo sotto esame per quanto riguarda il controllo dei contenuti sulla sua applicazione.
Nel 2021 un’indagine del Wall Street Journal ha rilevato che l’algoritmo di TikTok stava esponendo gli utenti a contenuti dannosi. Nonostante gli sforzi dell’azienda cinese per rafforzare la moderazione dei contenuti, studi recenti suggeriscono che l’esperienza dell’app per gli adolescenti rimane sostanzialmente invariata. L’American Psychological Association (APA) ha espresso preoccupazione per il potenziale degli algoritmi di condurre gli adolescenti su percorsi pericolosi. Questa preoccupazione non è infondata. Un esperimento del Center for Countering Digital Hate ha riscontrato che l’algoritmo di TikTok proponeva rapidamente video sul suicidio e sui disturbi alimentari agli account che erano stati appositamente creati dai ricercatori per simulare la user experience dei tredicenni. Secondo tale ricerca:
- TikTok ospita contenuti relativi ai disturbi alimentari, con oltre 13,2 miliardi di visualizzazioni;
- alcuni contenuti che promuovono i disturbi alimentari aggirano la moderazione utilizzando hashtag codificati, un vero e proprio linguaggio alternativo chiamato “Algospeak”;
- gli account fake di TikTok creati dai ricercatori sono stati esposti a contenuti di autolesionismo e disturbi alimentari pochi minuti dopo aver consultato il feed “Per Te” della piattaforma;
- un nuovo account TikTok creato da un utente di 13 anni che interagisce con contenuti sull’immagine corporea e sulla salute mentale riceverà raccomandazioni di contenuti simili ogni 39 secondi.
Come Facebook e Instagram, TikTok deve affrontare centinaia di cause legali negli Stati Uniti che lo accusano di aver attirato e reso dipendenti milioni di bambini.
Lo scorso ottobre, oltre dodici Stati e il Distretto della Colombia hanno intentato una causa contro la società cinese, sostenendo che sta danneggiando la salute mentale dei bambini con un prodotto progettato per essere usato in modo compulsivo ed eccessivo. Le cause nascono da un’indagine nazionale su TikTok, avviata nel marzo 2022 da una coalizione bipartisan di procuratori generali di diversi Stati, tra cui la California, il Kentucky e il New Jersey. Tutte le denunce sono state presentate in tribunali statali e sostengono che l’algoritmo di TikTok è particolarmente pericoloso, data la diffusione della piattaforma tra i giovani e la sua capacità di fornire rapidi impulsi di dopamina. Scelte progettuali come lo scorrimento infinito, le notifiche push e gli acquisti in-app sfruttano i giovani e creano abitudini di dipendenza tra gli utenti, sostengono i procuratori. Gli utenti attivi mensili di TikTok sono oltre 170 milioni negli Stati Uniti e più di un miliardo in tutto il mondo.
Al centro di ogni causa c’è, anche in questo caso, l’algoritmo di TikTok, che determina ciò che gli utenti vedono sulla piattaforma, popolando il feed principale “Per te” dell’app con contenuti personalizzati in base agli interessi delle persone. Il Distretto della Colombia ha definito l’algoritmo “inducente alla dopamina” e ha affermato che è stato creato per generare intenzionalmente dipendenza, in modo che l’azienda potesse intrappolare molti giovani utenti in un uso eccessivo e tenerli sulla propria app per ore e ore. TikTok agisce in questo modo pur sapendo che le sue scelte causeranno “profondi danni psicologici e fisiologici”, come ansia, depressione, dismorfia corporea e altri problemi di lunga durata, si legge nella denuncia. Citando documenti e presentazioni interne, gli Stati sostengono che TikTok considera gli utenti di età inferiore ai 13 anni una “fascia demografica critica” e li prende consapevolmente di mira e raccoglie i loro dati senza il consenso dei genitori.
Michael Hughes, portavoce della piattaforma, ha dichiarato: “Siamo fortemente in disaccordo con queste affermazioni, molte delle quali riteniamo siano imprecise e fuorvianti”. Hughes ha citato le “solide salvaguardie” dell’app, come la rimozione proattiva degli utenti minorenni, i limiti predefiniti di tempo di visione e le impostazioni predefinite della privacy per gli utenti sotto i 16 anni. I dirigenti di TikTok sostengono che la piattaforma può essere un luogo in cui condividere sentimenti su esperienze difficili e alcuni esperti sostengono l’idea che affrontare attivamente emozioni difficili possa essere vantaggioso sia per gli spettatori che per chi pubblica. L’azienda mira a rimuovere i video che promuovono o glorificano l’autolesionismo consentendo al contempo contenuti educativi o di recupero. “Ci siamo sforzati di lavorare con i procuratori generali per oltre due anni ed è incredibilmente deludente che abbiano preso questo provvedimento piuttosto che lavorare con noi su soluzioni costruttive alle sfide del settore”, ha aggiunto Hughes.
Nell’ultimo anno TikTok ha dovuto affrontare un’intensa pressione da parte di legislatori e procuratori statunitensi. Ad aprile il Congresso ha approvato una legge che obbliga a vietare TikTok a livello nazionale, a meno che la casa madre, la società cinese ByteDance, non venda l’applicazione ad un nuovo proprietario. E il 19 gennaio il social media è stato oscurato in America. Il divieto statunitense contro TikTok è “incostituzionale” secondo i proprietari del social media. “Sta traendo profitto dal fatto che sta coinvolgendo i giovani nella sua piattaforma”, ha dichiarato dal canto suo Brian Schwalb, procuratore generale del Distretto della Colombia. Mantenere le persone sulla piattaforma è “il modo in cui generano enormi entrate pubblicitarie”, ha detto Schwalb. “Ma purtroppo è anche il modo in cui generano impatti negativi sulla salute mentale degli utenti”.
La condotta di TikTok è da tempo nel mirino dei governi, inclusi quelli europei. [In un precedente post dell’Osservatorio sullo Stato digitale, è stato analizzato il tema della sicurezza nazionale USA: G. Taraborrelli “TikTok e sicurezza nazionale degli Stati Uniti: dalla richiesta di disinvestimento al bando totale nel Montana”. Sulle preoccupazioni degli Stati Uniti sull’accesso della Cina ai dati degli utenti del social media si veda anche: M. Giusti, “Everything is seen in China”, anche i dati degli utenti USA di TikTok, sembrerebbe”] La presidente della Commissione europea Ursula von der Leyen ha più volte ribadito che il social network rappresenta una minaccia agli anni dell’adolescenza che sono molto importanti per le “funzioni cerebrali” e “per lo sviluppo della personalità”. Per questo preoccupa la Commissione Ue. “È un terreno completamente nuovo”, ha spiegato, e “La tutela dei minori e il lavoro contro le caratteristiche di questi social che creano dipendenza sono cose di cui l’Ue si deve occupare”.
Osservatorio sullo Stato Digitale by Irpa is licensed under CC BY-NC-ND 4.0