Bambini e adolescenti nella trappola deepfake

In netta crescita i casi di contenuti prodotti con l’intelligenza artificiale, in particolare immagini di nudo false. Le cifre del rapporto 2025 dello sportello clickandstop.ch.

“Un ragazzo di 14 anni accetta una richiesta di contatto su Snapchat da una persona sconosciuta che afferma di essere una ragazza di 13 anni. Dopo una conversazione inizialmente innocua che diventa sempre più intima, la comunicazione si sposta su Telegram, una piattaforma con crittografia endto-end utilizzata appositamente dagli autori dei reati per rendere più difficile il tracciamento. L’adolescente invia una sua foto personale. Poco dopo riceve un video generato dall’intelligenza artificiale in cui appare in modo sessualizzato. A questo segue un ricatto: se non paga, il materiale verrà diffuso ai familiari e alla sua cerchia di amici. L’adolescente interrompe i contatti, ma il materiale viene comunque diffuso. Diversi compagni di scuola lo contattano, il video è già stato condiviso nella chat di classe. Il ragazzo, disperato, si rivolge ai genitori e si rifiuta di andare a scuola”.

Il caso è raccontato nel rapporto 2025 di clickandstop.ch, lo sportello di segnalazione e consulenza contro la pedocriminalità in rete istituito nell’aprile 2022 da Protezione dell’infanzia Svizzera e dalla Fondazione Guido Fluri. Serve a illustrare alcune tendenze recenti in quest’ambito: gli abusi e le violazioni dei limiti tra coetanei sono in aumento; i malintenzionati passano rapidamente ai servizi di messaggistica crittografata; e i reati nei quali è stata utilizzata l’intelligenza artificiale (deepfake, app Nudifyer, profili falsi) sono sempre più frequenti.

I responsabili di clickandstop.ch evidenziano in effetti una netta crescita dei casi di contenuti pedocriminali prodotti con l’intelligenza artificiale (Ia), in particolare immagini di nudo false. Lo scorso anno il numero di consulenze offerte, anche in conseguenza di questo fatto, è dunque aumentato del 63% rispetto al 2024, si legge in un comunicato diffuso mercoledì da Protezione dell’infanzia Svizzera. La tendenza che vede bambini e adolescenti sempre più spesso vittime di ciberbullismo e violenza sessuale tramite immagini artificiali si conferma in crescita per il secondo anno consecutivo. Inoltre, allo sportello sono stati segnalati 2’432 link relativi a contenuti pedocriminali. Questi sono quindi stati verificati dall’Ufficio federale di polizia (Fedpol) per identificare contenuti potenzialmente punibili e avviare le misure necessarie.

190 utenti al giorno

Nel 2025 ai servizi di clickandstop.ch hanno fatto capo soprattutto i genitori (circa 60% dei casi). Lo sportello viene utilizzato anche dai professionisti coinvolti (25%) e dalle vittime dirette (15%), ovvero da bambini e adolescenti tra gli 11 e i 16 anni. Nelle sessioni di consulenza legale il tema più frequente è stato la ‘sextortion’ (ricattatori minacciano le vittime, contattate sulle reti sociali e indotte a spogliarsi davanti alla webcam, di pubblicare foto o video compromettenti se non rispondono alla richiesta di riscatto: 22% dei casi), mentre il reato di produzione di materiale pedopornografico reale autoprodotto dagli adolescenti è diminuito in maniera significativa all’11% (dal 58% dell’anno precedente).

Ogni giorno gli utenti del servizio sono circa 190, ciò che ha portato i suoi promotori – la fondazione Protezione dell’infanzia Svizzera e la Fondazione Guido Fluri – ad avviare questo mese un progetto pilota per l’estensione degli orari di disponibilità telefonica e via chat.

Le piattaforme digitali – si legge ancora nella nota – fanno sempre più parte della quotidianità di bambini e adolescenti, senza però rappresentare uno spazio sicuro. Per questa ragione la Fondazione Guido Fluri ha lanciato il 3 marzo l’‘Iniziativa Internet’, che chiede maggiore responsabilità da parte delle piattaforme in rete. Protezione dell’infanzia Svizzera lancerà invece in estate una campagna nazionale di sensibilizzazione.