Dobbiamo proteggere meglio i nostri figli

È solo una breve frase in un rapporto pubblicato di recente dal World Economic Forum (WEF): «Nel giro di un decennio i deepfake potrebbero diventare onnipresenti. Per i cittadini sarà allora impossibile distinguere la verità dall’inganno».

I deepfake sono falsificazioni di immagini, registrazioni vocali o video generate dall’intelligenza artificiale. Già oggi è possibile inserire il volto di qualsiasi persona in un video esistente, e persino i sistemi professionali non riescono più a riconoscere la falsificazione.

Prima o poi, ogni utente di IA potrà creare in pochi secondi un film perfetto e farvi comparire persone qualsiasi, che come marionette faranno tutto ciò che l’utente immagina. Per una falsificazione perfetta basta una fotografia della persona desiderata. Nel mirino possono finire celebrità, attrici, modelle, un ex partner, il vicino di casa o persino qualcuno che è già morto. Anche i bambini possono esserne vittime.

Nelle chiamate audio o video diventa sempre più impossibile stabilire se l’interlocutore sia davvero il proprio capo, il proprio marito o il proprio figlio. E questo potrebbe essere solo l’inizio: la prevedibile diffusione degli occhiali 3D potrebbe far sì che i nostri sensi vengano letteralmente sopraffatti da realtà virtuali.

Alla luce di tutto ciò, gli avvertimenti del WEF assumono una nuova urgenza. Si profilano infatti due sviluppi. In molte controversie – politiche, economiche, in tribunale o alle urne – presto entrambe le parti potranno presentare prove la cui autenticità non sarà più accettata da tutti. Anche quando esistono video o registrazioni autentiche, la controparte potrà metterne in dubbio la veridicità, perché le falsificazioni sono così facili da produrre. Questo genera insicurezza e sfiducia. A chi si può ancora credere?

In secondo luogo, come ogni innovazione, anche i deepfake vengono usati per danneggiare gli altri. Come hanno mostrato le ricerche di questa redazione, già oggi in Svizzera esistono vittime: studentesse, politiche, giovani ricattati con deepfake, bambini le cui immagini vengono utilizzate per una quantità esplosiva di pornografia infantile generata dall’IA. E tutti noi siamo già esposti a campagne di disinformazione. Questo potenziale di danno crescerà in modo esponenziale con il perfezionamento e la diffusione della tecnologia deepfake.

Cosa si può fare? Contro l’uso della tecnologia in sé si può fare ben poco. Tuttavia si può cercare di smascherare il più possibile queste falsificazioni e impedirne la diffusione. Entrambi gli obiettivi riportano a un attore centrale: i media. Ed è qui che si apre un grande divario.

Da un lato ci sono i media tradizionali. Quando i deepfake riguardano personaggi famosi, sono per lo più questi media a fare chiarezza. Allo stesso tempo investono molte risorse per evitare di diffondere essi stessi tali falsificazioni, dato che la loro reputazione ne dipende.

L’esatto contrario avviene nei cosiddetti social media. Nelle ultime settimane, utenti della piattaforma X hanno diffuso numerosi deepfake di pornografia infantile. Studenti delle scuole secondarie hanno condiviso su Snapchat immagini di nudo generate con l’IA delle loro compagne di classe. Meta, la società dietro Facebook e Instagram, mostra ogni giorno ai propri utenti circa 15 miliardi di annunci fraudolenti, tra cui molti deepfake.

Nonostante ciò, anche in Svizzera i social media sottraggono inesorabilmente terreno ai media tradizionali. Negli ultimi quindici anni, la percentuale di persone in Svizzera che si informano quasi esclusivamente tramite i social media è passata da circa il 20 al 46 per cento. Allo stesso tempo, miliardi di introiti pubblicitari sono passati dai media svizzeri ai giganti tecnologici statunitensi.

Il Consiglio federale intende ora regolamentare più severamente Instagram, YouTube e simili. In questi giorni è in consultazione un progetto di legge che mira, tra l’altro, a obbligare le grandi piattaforme di comunicazione a consentire agli utenti di segnalare determinati contenuti illeciti.

Tuttavia, sia l’Associazione svizzera delle insegnanti e degli insegnanti (LCH) sia Pro Juventute criticano il fatto che la protezione dei minori non sia sufficientemente garantita. L’LCH contesta, ad esempio, la selezione dei reati soggetti alla procedura di segnalazione. È «incomprensibile» perché la pornografia vietata e i reati contro l’integrità fisica, psichica o sessuale di un minore non vi rientrino, sebbene tali delitti «abbiano dimostrabilmente spesso origine sulle piattaforme digitali di comunicazione».

La presidente dell’LCH, Dagmar Rösler, riassume così le carenze della legge, soprattutto in relazione ai deepfake: «Le aziende globali ne traggono profitto, ma le conseguenze devono essere sopportate dalle scuole, dai genitori e dai giovani».