«Disattivate l’algoritmo!»

Un’ondata di cause contro i più grandi colossi dei social media al mondo sta portando alla luce destini toccanti. Bambini e adolescenti affermano di essere stati spinti, a causa di una dipendenza alimentata dagli algoritmi, verso depressione, disturbi alimentari e autolesionismo. Migliaia di casi stanno ora arrivando in tribunale. Le sentenze potrebbero distruggere ampie parti del modello di business dei social network. A guidare questa ondata di cause è Matthew Bergman. Il team dell’avvocato americano rappresenta 1500 giovani o le loro famiglie contro i gestori delle piattaforme.

Lunedì, davanti a un tribunale di Los Angeles, inizieranno le audizioni dei querelanti. La prima a testimoniare sarà una giovane donna nota con le iniziali K. G. M. Durante l’adolescenza ha sofferto di disturbi alimentari, gravi stati d’ansia e depressione. Sostiene che i gestori delle piattaforme sapessero che i loro prodotti causavano danni. Le aziende, afferma, accettano consapevolmente problemi psichici, anoressia e suicidi tra gli adolescenti.

Il suo avvocato, Matthew Bergman, ha esperienza con cause collettive strategiche: ha rappresentato con successo oltre 850 persone che avevano sviluppato un cancro dopo l’esposizione all’amianto contro imprese edilizie e industriali, diventando uno degli avvocati più noti degli Stati Uniti. Nei processi contro i social media sarà decisiva soprattutto una domanda: Bergman riuscirà a dimostrare che è stato davvero il design delle piattaforme a condurre i giovani alla rovina? Finora, un nesso causale certo tra uso dei social network e disturbi psichici negli adolescenti non è stato dimostrato in modo inequivocabile dalla scienza.

Signor Bergman, lei paragona spesso il comportamento delle aziende dei social media a quello dell’industria dell’amianto e del tabacco. Ma il paragone non regge: una sigaretta danneggia il corpo. Un video su Instagram o TikTok no. Dove vede la somiglianza?

La vedo diversamente. Nuove ricerche dell’Università della North Carolina documentano che il cervello degli adolescenti si sviluppa in modo diverso se fanno un uso frequente dei social network. È sempre più chiaro che i social media non solo creano dipendenza, ma agiscono anche sulla parte centrale del cervello, l’amigdala – in modo simile alla nicotina. L’altra analogia: l’industria del tabacco ha aumentato deliberatamente il contenuto di nicotina nelle sigarette per renderle più addictive. Anche le aziende dei social media sfruttano la dipendenza: progettano i loro prodotti in modo da approfittare della corteccia prefrontale ancora immatura degli adolescenti. Sfruttano la loro insicurezza sociale e il bisogno di approvazione da parte dei coetanei.

Nella sua accusa Bergman si concentra sulla questione di quali contenuti vengano proposti agli adolescenti attraverso le raccomandazioni algoritmiche. Punta esplicitamente al design delle piattaforme, non al contenuto dei post. Cause precedenti avevano cercato di argomentare partendo dai contenuti, ma erano state respinte. Negli Stati Uniti vige infatti la Section 230, che stabilisce che i gestori delle piattaforme non possono essere ritenuti responsabili per i post dei loro utenti. TikTok, per esempio, non è mai stato perseguito per il trend #Skinnytok, sebbene fosse noto che alimentasse disturbi alimentari.

Con la sua argomentazione aggira la Section 230. Ma non sono piuttosto i contenuti a danneggiare i giovani, più che il design?

No. Non aggiriamo alcuna legge. La Section 230 è una di quelle norme in cui l’effetto e l’intenzione del legislatore divergono maggiormente. Non è mai stata pensata per concedere un’immunità totale alle aziende dei social media. Al contrario: era stata creata per proteggere i bambini. Che anche i contenuti giochino un ruolo è irrilevante dal punto di vista giuridico. Il problema è il design, la struttura delle piattaforme. Se le aziende possono sempre giustificarsi dicendo che i contenuti provengono da terzi, allora non potranno mai essere ritenute responsabili di nulla.

Lei fonda le sue cause sulla responsabilità per prodotto. Finora però queste norme si applicavano a prodotti materiali, non a servizi come un profilo su un social network.

È vero. Le aziende dei social media evitano da vent’anni qualsiasi parvenza di responsabilità. Ma le piattaforme sono anche prodotti. Quando parlano con gli investitori, parlano dei «nostri prodotti». Quando cercano personale, cercano «product engineers». Nella giurisprudenza americana esistono esempi di prodotti non materiali considerati tali. E anche se non fossero qualificati come prodotti: sono stati progettati in modo negligente. Questo il tribunale lo ha già stabilito.

Le aziende tecnologiche avevano chiesto al tribunale di respingere le cause di Bergman, ma la giudice ha respinto la richiesta. Ora i procedimenti possono andare avanti. Nel caso di K. G. M., una giuria dovrà decidere se le piattaforme siano soggette alle norme sulla responsabilità per prodotto e se debbano risarcire i danni.

Lei rappresenta casi estremi. Non potrebbe essere, in una certa misura, impossibile proteggere del tutto gli adolescenti da esperienze negative online? Anche su internet ci saranno sempre utenti malintenzionati, come nel cortile della scuola.

Mi oppongo con forza a questa idea. Certo, ci saranno sempre persone malintenzionate. Ma sarebbe molto facile evitare che bambini vengano contattati da adulti sconosciuti con cui non vogliono avere nulla a che fare. È una scelta di design permettere che un molestatore sessuale di 60 anni possa fare amicizia con una tredicenne. Poiché le piattaforme creano dipendenza, i bambini non riescono a staccarsene. Senza il fattore dipendenza sarebbe diverso. Immagini una ragazza che percorre un corridoio a scuola e vede più avanti un adolescente aggressivo che spinge altri contro il muro. Può decidere: continuo o cambio strada? Nei social non c’è scelta. Le piattaforme spingono i bambini nelle mani degli aggressori. Non lo dimostrano solo le nostre indagini, ma anche quelle di Meta: analisi interne mostrano che due terzi degli adolescenti restano su Instagram più a lungo di quanto vorrebbero.

La ricerca mostra che un uso intenso dei social è correlato a un minor benessere, ma un uso moderato può anche arricchire la vita. Come dimostrerete il nesso causale nei singoli casi?

Ci avvaliamo di pediatri, psicologi, neurologi e informatici di fama. Ma le prove migliori sono i documenti interni delle aziende. Meta ha rilevato che i suoi servizi rendono un terzo dei bambini più insoddisfatti di sé. Sa anche che un bambino su quattro riceve contenuti sessuali da adulti. Eppure non fa nulla.

Basterà in tribunale?

Sì. Ma lo decideranno i giurati. È un processo civile: non dobbiamo eliminare ogni dubbio. Basta che comprendano che il design dei social media influisce sul benessere degli adolescenti.

Quali cambiamenti chiede alle aziende?

Disattivate l’algoritmo. Smettete di progettare il prodotto in modo da generare dipendenza. Non mostrate agli adolescenti “rabbit hole” di contenuti sempre più estremi, che non vogliono vedere ma da cui non riescono a distaccarsi. Introducete controlli di età e identità, affinché i bambini possano essere certi di interagire con altri bambini, non con adulti che si fingono tali. Limitate le ore online. Assicuratevi che non ricevano notifiche push alle tre del mattino. Avvertite giovani e genitori dei pericoli delle piattaforme. Smettete con la gamification: like, cuori, fiamme e altri meccanismi che sfruttano la vulnerabilità sociale dei giovani. Questi cambiamenti risolverebbero probabilmente l’80 per cento dei problemi. Sarebbe facile per le aziende attuarli. Ma non lo fanno: costerebbe un po’ di denaro.

Lei chiede una trasformazione radicale del modello di business.

No. Molte di queste idee sono già richieste dall’Unione Europea e dal Regno Unito. Non si tratta di cambiare radicalmente il modello di business. Le piattaforme diventerebbero però più sicure per i bambini.

Vede possibili effetti collaterali? Per esempio, una maggiore cancellazione di contenuti potrebbe danneggiare la libertà di espressione.

No. Non vogliamo che le aziende cancellino più contenuti in generale. Ma vogliamo certamente limitare la diffusione di materiale di abuso su minori. Chi abusa sessualmente di bambini non può invocare la libertà di parola. L’idea che non si possano creare spazi online sicuri per i bambini senza limitare la libertà di espressione è falsa.

Può spiegare meglio?

Non chiediamo più censura. Chiediamo di cambiare ciò che viene mostrato ai bambini. Se un ragazzo cerca contenuti positivi e di speranza, non dovrebbe ricevere un video sul suicidio.

Ha ricevuto minacce?

Non uso social network. Gli avvocati delle aziende sono professionali e molto intelligenti.