L’INCHIESTA

Allarme Instagram: l’algoritmo favorisce la pedofilia

Lo scorso febbraio Meta ha annunciato l’introduzione di alcune nuove funzionalità per rendere più difficile l’interazione adulti-minori ma stando a un’indagine del Wall Street Journal in collaborazione con le università di Stanford e Amherst il sistema che promuove i “contenuti consigliati” consente ai pedofili di mettersi in contatto tra loro, favorendo lo scambio e la vendita di materiale illegale e l’adescamento dei minori. Breton convoca Zuckerberg a Bruxelles

Pubblicato il 08 Giu 2023

instagram

Solo lo scorso febbraio Meta aveva annunciato nuove mosse anti-pedofilia: l’introduzione su Instagram di nuove funzionalità per rendere più difficile per gli adulti l’interazione con gli adolescenti, la richiesta a tutti i giovani di limitare le proprie impostazioni privacy, nonché la fondazione – proprio con il supporto della società di Zuckerberg – di “Take It Down”, nuova piattaforma del “National center for missing & exploited children” per aiutare a impedire che le immagini intime dei giovani vengano pubblicate online in futuro. Ma tutto questo pare non essere bastato.

Oggi, un’indagine condotta dal Wall Street Journal in collaborazione con le università di Stanford e Amherst rivela infatti che i sistemi di Instagram per i cosiddetti “contenuti consigliati” consentono ai pedofili presenti sulla piattaforma di mettersi in contatto tra loro, favorendo lo scambio e la vendita di contenuti illegali. Risultato: “Grandi reti di account, che danno l’impressione di essere gestiti da minori, promuovono apertamente la vendita di contenuti pedopornografici”, hanno affermato i ricercatori del Cyber Policy Center della prestigiosa Università della Silicon Valley.

Breton convoca Zuckerberg: incontro il 23 giugno

Il 23 giugno il Commmisario Ue Thierry Breton incontrerà l’amministratore delegato di Meta Platforms Mark Zuckerberg: all’ordine del giorno la richiesta di azioni immediate per contrastare la pedopornografia online.

Hashtag aperti alla rete pedofila nonostante la moderazione

Quel che emerge dall’indagine è che, nonostante la moderazione, Instagram consente agli utenti di ricercare determinati hashtag, utili a mettersi in contatto con altri profili dedicati apertamente alla vendita di contenuti relativi all’abuso sessuale su minori.

Una semplice ricerca di parole chiave come #pedowhore o #preteensex porta infatti ad account che utilizzano questi termini per pubblicizzare contenuti che mostrano abusi sessuali su minori. Spesso, questi profili “affermano di essere guidati dai bambini stessi e usano pseudonimi apertamente sessuali”, dettaglia l’articolo. Gli account non dicono direttamente che stanno vendendo queste immagini, ma presentano menu con opzioni, inclusa la richiesta di atti sessuali specifici. I ricercatori di Stanford hanno anche individuato offerte per video con bestialità e autolesionismo.

“A un certo prezzo, i bambini sono disponibili per ‘incontri’ di persona”, continua l’articolo. Il rapporto sottolinea il ruolo svolto dagli algoritmi del popolare social network: un account di prova creato dal quotidiano economico e’ stato “inondato di contenuti che sessualizzano i bambini” dopo aver cliccato su alcune di queste raccomandazioni.

Istituita una task force interna a Meta

Meta è stata contattata dal quotidiano, dal momento che la promozione e la vendita di contenuti relativi all’abuso sessuale su minori è un reato federale, oltre a rappresentare una violazione delle linee guida delle piattaforme, e ha riconosciuto la presenza di ostacoli alla moderazione dei suddetti contenuti. La società di Mark Zuckerberg ha informato il quotidiano di avere istituito una task force interna per risolvere questo problema. “Lo sfruttamento sessuale di minori è un crimine tremendo, e lavoriamo costantemente per impedire e bloccare comportamenti del genere sulle nostre piattaforme”, ha detto un portavoce della società, aggiungendo che negli ultimi due anni Meta ha smantellato un totale di 27 reti di profili colpevoli di pedofilia.

Rimossi migliaia di hashtag usati dai pedofili

Inoltre, l’azienda ha fatto sapere che, dopo essere stata contattata dal quotidiano, sono stati rimossi dalla piattaforma “migliaia di hashtag” utilizzati dai pedofili per mettersi in contatto con i venditori e con altri criminali sessuali. I ricercatori che hanno partecipato all’indagine hanno notato che, dopo avere visionato solo uno dei profili appartenenti alla rete, l’algoritmo di Instagram ne ha immediatamente consigliati di nuovi, inclusi gli account che si occupano della compravendita di contenuti illegali. L’osservatorio di Stanford, utilizzando una serie di hashtag, ha trovato un totale di 405 account dedicati alla vendita di contenuti sessuali su minori, alcuni dei quali avrebbero non più di 12 anni. Si tratterebbe di centinaia di migliaia di profili, come confermato anche da un portavoce di Meta, secondo il quale, nel solo mese di gennaio, sono stati cancellati in tutto 490 mila account per violazione delle linee guida relative alla sicurezza dei minori.

Novità a tutela degli adolescenti

Solo lo scorso febbraio Meta aveva annunciato con orgoglio di essere membro fondatori di Take It Down, una nuova piattaforma di Ncmec che consente ai giovani di riprendere il controllo delle loro immagini intime. Le persone possono andare su TakeItDown.Ncmec.org e seguire le istruzioni per inviare un caso che cercherà in modo proattivo le loro immagini intime sulle app partecipanti. Take It Down assegna un valore hash univoco – un codice numerico – alla propria immagine o video privatamente e direttamente dal proprio dispositivo. Una volta inviato l’hash a Ncmec, le aziende come Meta possono utilizzare tali hash per trovare eventuali copie dell’immagine, rimuoverle e impedire che il contenuto venga pubblicato sulle proprie app in futuro.

“Meta – aveva inoltre fatto presente una nota aziendale – non consente contenuti o comportamenti che sfruttano i giovani, inclusa la pubblicazione di immagini intime o attività di sextorsione. Lavoriamo per prevenire questi contenuti così come le interazioni inappropriate tra i giovani e gli account sospetti che tentano di trarne vantaggio. Ad esempio, impostiamo gli adolescenti sul profilo più privato di Facebook e Instagram, lavoriamo per impedire agli adulti sospetti di connettersi con adolescenti su quelle app e istruiamo i giovani sui pericoli di interagire con adulti che non conoscono online. Abbiamo anche reso più facile per le persone segnalare contenuti potenzialmente dannosi, in particolare se coinvolgono un bambino”.

Nuove policy su Instagram per prevenire la pedofilia

“Su Instagram – aggiungeva Meta nella nota -, abbiamo recentemente introdotto nuove funzionalità per rendere ancora più difficile per gli adulti interagire con gli adolescenti. Ora, questi adulti non saranno più in grado di vedere gli account degli adolescenti quando scorrono l’elenco delle persone a cui è piaciuto un post o quando guardano i follower o l’elenco dei seguiti di un account. Se un adulto sospetto segue un account adolescente, invieremo a quell’adolescente una notifica chiedendogli di esaminare e rimuovere il nuovo follower. Chiediamo inoltre agli adolescenti di rivedere e limitare le proprie impostazioni sulla privacy. Quando qualcuno commenta il post di un adolescente, lo tagga/menziona in un altro post o include il suo contenuto in Reels Remix o Guide, l’adolescente riceverà una notifica per rivedere le sue impostazioni sulla privacy e avrà la possibilità di impedire alle persone di interagire con lui”.

Whatsapp, via ai canali broadcast

Nel giorno della pubblicazione dell’inchiesta Meta annuncia importanti novità sul fronte Whatsapp: debuttano i Canali per ricevere importanti aggiornamenti da persone e organizzazioni. La società sostiene che rappresenteranno un nuovo strumento di broadcast one-way, con cui gli amministratori potranno inviare messaggi, immagini, video, sticker e sondaggi.

In occasione del lancio dei Canali, annunciata anche la collaborazione con la Singapore Heart Foundation e il fact-checker colombiano Colombia Check; Colombia e Singapore sono infatti i primi Paesi in cui i Canali saranno disponibili, per mettere a punto, migliorare e ottimizzare l’esperienza. Tra i partner globali per il lancio ci sono ong come l’International Rescue Committee e l’Oms, oltre a grandi nomi dello sport come FC Barcelona e Manchester City. Nei prossimi mesi i Canali saranno disponibili anche in altri Paesi, dando la possibilità a chiunque di crearne uno.

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

Articoli correlati

Articolo 1 di 2