NCMEC, Google e tecnologia di hashing delle immagini

Puoi parlarci del NCMEC e del tuo ruolo?

Lavoro presso il NCMEC da oltre 20 anni, quindi ho assistito in prima persona all'evoluzione dell'organizzazione, alle sfide e alle minacce per i nostri bambini e la loro sicurezza. Ho iniziato la mia carriera qui come analista di CyberTipline.

CyberTipline è stato creato e lanciato nel 1998 come strumento per consentire ai cittadini di segnalare potenziali casi di sfruttamento minorile. In quel periodo ricevevamo segnalazioni da genitori preoccupati che un adulto parlasse in modo inappropriato con i loro figli online e da persone che si imbattevano in siti web contenenti materiale pedopornografico. Successivamente, negli Stati Uniti è stata approvata una legge federale che imponeva alle società tecnologiche statunitensi di segnalare a CyberTipline qualsiasi caso evidente di materiale pedopornografico sui propri sistemi.

Nei primi tempi, superavamo le 100 segnalazioni di sfruttamento minorile a settimana. Abbiamo ricevuto la nostra prima segnalazione da un'azienda tecnologica nel 2001. Nel 2021, invece, abbiamo ricevuto circa 70.000 nuove segnalazioni ogni giorno. Alcune di queste segnalazioni provengono dal pubblico, ma la maggior parte viene inviata da aziende tecnologiche.

In che modo il NCMEC aiuta le aziende online a combattere la pedopornografia?

La legge non richiede che le aziende si impegnino in modo proattivo. In sostanza, se rilevano contenuti pedopornografici o ne vengono a conoscenza, devono segnalarli. Questo è il vero motore della crescita strumentale che abbiamo riscontrato in CyberTipline nel corso degli anni. Tuttavia, negli ultimi cinque anni si è registrato il salto più significativo nelle segnalazioni. Questa esplosione può essere attribuita agli sforzi che molte aziende tecnologiche stanno compiendo volontariamente per rilevare, rimuovere e segnalare in modo proattivo il materiale pedopornografico.

Uno dei programmi di punta che gestiamo presso il National Center for Missing & Exploited Children è costituito dalle piattaforme di condivisione degli hash, a cui possono contribuire sia le aziende che ONG selezionate. Tramite la piattaforma di condivisione degli hash delle ONG, il NCMEC fornisce alle aziende tecnologiche interessate più di cinque milioni di valori hash di materiale pedopornografico confermato e verificato tre volte per aiutarle a combattere il materiale pedopornografico sulle loro reti. Molte grandi aziende, tra cui Google, hanno utilizzato questo elenco e stanno adottando misure proattive per rimuovere il materiale pedopornografico dalle loro piattaforme. Questo elenco consente anche ad altre ONG affidabili che si occupano di bambini di fornire i propri hash al settore tecnologico attraverso la piattaforma di hash del NCMEC, per cercare di ridurre al minimo la necessità che un'azienda tecnologica si rivolga individualmente a ciascuna ONG.

Offriamo anche una piattaforma di condivisione di hash del settore, che consente a determinate aziende di condividere tra loro i propri hash di materiale pedopornografico. Ci assicuriamo che qualsiasi azienda disposta a rilevare in modo proattivo questo materiale, e in grado di farlo, abbia tutti gli strumenti necessari e che le aziende possano condividere tra loro i propri hash di materiale pedopornografico. Google contribuisce in maniera maggiore a questa piattaforma, con circa il 74% del numero totale di hash nell'elenco.

Come puoi immaginare, dato il numero di segnalazioni che oggi riceviamo, vediamo molte delle stesse immagini segnalate più volte. È del tutto comprensibile, poiché le aziende utilizzano i valori hash per rilevare materiale noto, ma man mano che il materiale noto aumenta, per il NCMEC diventa più importante essere in grado di identificare nuovo materiale prodotto e condiviso online.

L'API Hash Matching di Google ha aiutato il NCMEC a dare la priorità alle segnalazioni CyberTipline. Puoi dirci di più su come è iniziato questo progetto?

Il successo del programma di condivisione degli hash ha generato una sfida completamente nuova: un volume che ha presentato sfide immense. Un'organizzazione non profit come il NCMEC non ha la potenza di calcolo necessaria per gestire questo volume. Ecco perché abbiamo accolto con entusiasmo e gratitudine l'aiuto di Google nella creazione dello strumento API Hash Matching.

Nel 2020 abbiamo ricevuto 21 milioni di segnalazioni CyberTipline, ma in ognuna di queste segnalazioni possono esserci più immagini e video. Queste 21 milioni di segnalazioni includevano in realtà quasi 70 milioni di immagini e video pedopornografici. È chiaro che all'interno di questo volume ci sono duplicati e, sebbene per il NCMEC sia facile rilevare le corrispondenze esatte, non saremmo in grado di rilevare corrispondenze visivamente simili su larga scala e in tempo reale per identificare e dare priorità alle immagini mai viste prima. Ciò è fondamentale quando cerchiamo di identificare i bambini che sono vittime di abusi sessuali.

Quali vantaggi ha apportato l'API Hash Matching al NCMEC?

Abbiamo un compito molto importante, che consiste nel prendere queste informazioni critiche e trasmetterle il più rapidamente possibile alle forze dell'ordine. Uno dei vantaggi di questo strumento è rappresentato dalla possibilità di aggiungere un valore enorme alle segnalazioni CyberTipline.

Abbiamo un programma di lavoro che ci permette di esaminare ogni immagine e video di abuso sessuale su minori e di etichettarlo. Ad esempio, "Questo è materiale pedopornografico", "Questo non è materiale pedopornografico" o "È difficile identificare l'età del bambino o della persona". Tuttavia, come puoi immaginare, con 70 milioni di file solo l'anno scorso, non saremo mai in grado di etichettarli tutti. Questa API ci consente di effettuare un confronto. Quando contrassegniamo un file, l'API ci consente di identificare tutti i file visivamente simili che poi contrassegniamo di conseguenza in tempo reale. Pertanto, siamo stati in grado di taggare più di 26 milioni di immagini.

Questo ci aiuta ad aggiungere più valore alle segnalazioni che inviamo alle forze dell'ordine, in modo che possano dare priorità alle segnalazioni che esamineranno per prime. Ci aiuta anche a identificare le immagini che non sono mai state viste prima. Spesso queste immagini raffigurano un bambino in qualche parte del mondo che subisce abusi sessuali. Se stiamo cercando un ago nel pagliaio, in questo caso l'ago è un bambino che ha bisogno di essere salvato. Lo strumento di Google ci ha permesso di concentrarci sulle immagini che contengono bambini che hanno bisogno di aiuto immediato.

In che modo ha influito sul benessere dei revisori umani del NCMEC che elaborano le segnalazioni CyberTipline e analizzano i contenuti pedopornografici?

Questo strumento di rilevamento del materiale pedopornografico ha ridotto la necessità per il nostro personale di esaminare le stesse immagini più e più volte. Ci sono immagini di bambini che subiscono abusi sessuali e che ora potrebbero essere adulti. Queste immagini rimangono online per sempre e contribuiscono alla continua vittimizzazione di queste persone. La possibilità di taggare queste immagini consente loro di concentrarsi sui bambini che mostrano abusi sessuali recenti, rimuovendo al contempo le immagini illegali dalla visualizzazione.

Ecco perché il nostro personale è qui: vuole aiutare questi bambini. Si è trattato di un miglioramento rivoluzionario nella capacità del nostro personale di focalizzarsi sul benessere e di non doversi confrontare ripetutamente con lo stesso materiale dannoso noto.

In che modo questo lavoro aiuta le aziende tecnologiche nel loro complesso a combattere questo tipo di materiale online?

Sappiamo che Google fornisce alle aziende una tecnologia di rilevamento del materiale pedopornografico per contribuire alla lotta globale contro questo tipo di materiale e che la stessa API Hash Matching ha un impatto diretto su molti soggetti al di là del NCMEC. Tutte le aziende tecnologiche stanno beneficiando di un processo più snello ed efficiente presso il National Center. Le segnalazioni CyberTipline vengono affrontate e gestite in modo più tempestivo e con un valore aggiunto maggiore rispetto a quando non avevamo questo strumento.

Il NCMEC è una risorsa fondamentale per le aziende tecnologiche, le forze dell'ordine, i sopravvissuti e le loro famiglie. Godiamo di una prospettiva incredibilmente unica che permette di esaminare i problemi e le soluzioni. Grazie a CyberTipline, siamo perfettamente consapevoli del materiale pedopornografico di nuova creazione ed esistente che circola online. Tutte queste segnalazioni vengono messe a disposizione delle forze dell'ordine. Non dobbiamo mai perdere di vista il fatto che, alla fine di tutto questo, ci sono bambini reali che sono stati vittime di abusi e sfruttamento sessuale.

Sappiamo di oltre 20.000 bambini identificati che hanno subito abusi sessuali e i cui abusi sono stati immortalati, in un video o in un'immagine. Questi sopravvissuti, alcuni ancora bambini e altri ormai adulti, sono ben consapevoli della vittimizzazione continua che stanno subendo. Ecco perché è così importante per noi fare tutto il possibile per ridurre al minimo la circolazione di queste immagini.

Una cosa che potrebbe non essere chiara al pubblico è che c'è la tendenza a ignorare il materiale pedopornografico noto, perché le immagini potrebbero essere considerate "vecchie" o "rimesse in circolazione". In modo costante, ricordiamo alle persone che si tratta di bambini reali, che più di 20.000 persone stanno cercando di guarire e riprendere il controllo della propria vita. Queste persone trovano conforto nel sapere che aziende come Google stanno facendo di tutto per rimuovere le immagini che ritraggono i momenti peggiori della loro vita.

Se trovi immagini o materiali pedopornografici online, puoi segnalarli al National Center for Missing and Exploited Children (NCMEC) o a un' autorità competente in tutto il mondo.

Google si impegna a combattere l'abuso e lo sfruttamento sessuale di minori online e a impedire che i nostri servizi vengano utilizzati per diffondere materiale pedopornografico. Per saperne di più, vai sul nostro sito web dedicato alla protezione dei minori.