Nacionalni centar za nestalu i zlostavljanu djecu (NCMEC), Google i tehnologija hashiranja slika

U SAD-u Nacionalni centar za nestalu i iskorištavanu djecu (NCMEC) svake godine prima milijune prijava materijala koji prikazuje seksualno zlostavljanje djece na internetu (CSAM). Michelle DeLaune, viša potpredsjednica i operativna direktorica Nacionalnog centra za nestalu i iskorištavanu djecu (NCMEC-a), govori o razvoju te organizacije, kako se tehnološke tvrtke uključuju u borbu protiv materijala koji prikazuje seksualno zlostavljanje djece te o Googleovom API-ju za podudaranje hasheva.

Možete li nam reći više o Nacionalnom centru za nestalu i iskorištavanu djecu (NCMEC-u) i vašoj ulozi u njemu?

Više od 20 godina radim u NCMEC-u, pa sam osobno svjedočila razvoju organizacije te izazovima i prijetnjama djeci i njihovoj sigurnosti. Karijeru sam započela kao analitičarka za CyberTipline.

CyberTipline stvoren je i pokrenut 1998. kako bi građani mogli prijaviti potencijalne slučajeve iskorištavanja djece. U to doba primali smo prijave od roditelja koji su bili zabrinuti kada se odrasla osoba neprimjereno obraćala njihovu djetetu na internetu kao i od ljudi koji bi naišli na internetske stranice koje su sadržavale materijal koji prikazuje seksualno zlostavljanje djece. U SAD-u je zatim donesen savezni zakon koji od tehnoloških tvrtki zahtijeva da CyberTiplineu prijave sve očite slučajeve materijala koji prikazuje seksualno zlostavljanje djece u njihovim sustavima.

U početku smo tjedno znali primiti preko 100 prijava iskorištavanja djece. Prvu prijavu tehnološke tvrtke primili smo 2001. Pogledamo li podatke za 2021., svaki dan primimo oko 70.000 novih prijava. Neke od njih su od građana, no većinu prijava šalju tehnološke tvrtke.

Kako NCMEC pomaže internetskim tvrtkama u borbi protiv materijala koji prikazuje seksualno zlostavljanje djece?

Po zakonu tvrtke nisu duže poduzimati nikakve proaktivne mjere. Ako otkriju materijal koji prikazuje seksualno zlostavljanje djece ili postanu svjesni njegova postojanja, samo ga moraju prijaviti. Zbog toga je s vremenom došlo do velikog porasta prijava putem CyberTiplinea. No do najvećeg porasta prijava došlo je u posljednjih pet godina. Ta eksplozija broja prijava može se objasniti naporima koje mnoge tehnološke tvrtke dobrovoljno ulažu u proaktivno otkrivanje, uklanjanje i prijavu materijala koji prikazuje seksualno zlostavljanje djece.

Jedan od najvažnijih programa koje provodimo u Nacionalnom centru za nestalu i iskorištavanu djecu platforme su za dijeljenje hasheva, jedna za tehnološke tvrtke, a druga za odabrane nevladine organizacije. Putem platforme na kojoj hasheve dijele nevladine organizacije NCMEC zainteresiranim tehnološkim tvrtkama pruža više od pet milijuna hashiranih vrijednosti potvrđenih i trostruko provjerenih materijala koji prikazuju seksualno zlostavljanje djece kako bi im pomogao u borbi protiv tih materijala na njihovim mrežama. Mnoge velike tvrtke, uključujući Google, služe se tim popisom i poduzimaju proaktivne korake za uklanjanje materijala koji prikazuje seksualno zlostavljanje djece sa svojih platformi. Taj popis i drugim uglednim nevladinim organizacijama za zaštitu djece omogućuje da svoje hasheve šalju tehnološkim tvrtkama putem platforme za hashiranje NCMEC-a kako bi se smanjila potreba za time da se tehnološke tvrtke zasebno obraćaju svakoj nevladinoj organizaciji.

Također nudimo platformu za dijeljenje hasheva za tvrtke koja određenim tvrtkama omogućuje da razmjenjuju vlastite hasheve materijala koji prikazuju seksualno zlostavljanje djece. Svakoj tvrtki koja može i želi proaktivno otkrivati te materijale osiguravamo sve potrebne alate, a tvrtkama omogućujemorazmjenu vlastitih hasheva materijala koji prikazuje seksualno zlostavljanje djece. Google najviše doprinosi platformi s udjelom od oko 74 % ukupnog broja hasheva na popisu. Kao što možete pretpostaviti, s obzirom na broj prijava koje sada primamo, mnoge slike prijavljuju se više puta. To je potpuno razumljivo jer tvrtke koriste hashirane vrijednosti za otkrivanje poznatih materijala, no kako se obujam poznatog materijala povećava, važnije je da NCMEC može identificirati nove materijale koji su izrađeni i podijeljeni na internetu.

Googleov API za podudaranje hasheva pomogao je NCMEC-u da prioritizira prijave u sustavu CyberTipline. Možete li nam reći više o tome kako je taj projekt započeo?

Uspjeh programa dijeljenja hasheva stvorio je potpuno novi izazov zbog ogromnog obujma podataka. Neprofitna organizacija kao što je NCMEC nema računalne kapacitete kako bi se nosila s tim obujmom podataka. Zato smo toliko zahvalni Googleu na njegovoj pomoći i na razvoju API-ja za podudaranje hasheva.

U 2020. primili smo 21 milijun prijava putem CyberTiplinea, no u svakoj od njih može se nalaziti više slika i videozapisa. Te su prijave zapravo sadržavale gotovo 70 milijuna slika i videozapisa seksualnog zlostavljanja djece. Naravno, neke se slike i videozapisi ponavljaju. Iako NCMEC-u nije teško otkriti točna podudaranja, ne bismo mogli otkriti vizualno slična podudaranja u toj količini i u stvarnom vremenu kako bismo identificirali nove slike i odredili njihov prioritet. A to je ključno kad pokušavamo identificirati djecu koja su žrtve aktivnog seksualnog zlostavljanja.

Koje je prednosti API za podudaranje hasheva donio NCMEC-u?

Imamo vrlo važan posao, a to je kritične informacije čim prije predati policiji. Jedna je od prednosti ovog alata to što nam omogućuje nov način dodavanja velike vrijednosti prijavama putem CyberTiplinea.

Imamo program u sklopu kojeg pregledavamo i označavamo sve slike i videozapise seksualnog zlostavljanja djece. Na primjer: „Ovo je materijal koji prikazuje seksualno zlostavljanje djece”, „Ovo nije materijal koji prikazuje seksualno zlostavljanje djece” ili „Teško je utvrditi dob djeteta ili osobe”. No, kao što možete pretpostaviti, nikada nećemo moći označiti sve datoteke s obzirom na to da smo ih samo prošle godine imali 70 milijuna. Ovaj API omogućuje nam da uspoređujemo. Kad označimo jednu datoteku, API nam omogućuje da identificiramo sve vizualno slične datoteke koje zatim možemo odgovarajuće označiti u stvarnom vremenu. To nam je omogućilo da označimo više od 26 milijuna slika.

Na taj su način prijave koja šaljemo policiji korisnije, pa ona može odlučiti koje će prijave prve pregledati. Također nam pomaže utvrditi slike koje nikad dosad nismo vidjeli. Na tim se slikama često nalazi dijete koje je trenutačno negdje u svijetu žrtva seksualnog zlostavljanja. Ako poslovično kažemo da tražimo iglu u plastu sijena, onda je u ovom slučaju igla to dijete koje treba spasiti. Googleov alat omogućuje nam da se usmjerimo na one slike na kojima su djeca kojima je odmah potrebna pomoć.

A kako je to utjecalo na kvalitetu života djelatnika Nacionalnog centra za nestalu i zlostavljanu djecu (NCMEC-a) koji obrađuju prijave sa CyberTiplinea i analiziraju materijal koji prikazuje seksualno zlostavljanje djece?

Alat za otkrivanje materijala koji prikazuje seksualno zlostavljanje djece smanjio je potrebu da naše osoblje opetovano gleda iste slike. Postoje slike seksualno zlostavljane djece koja su sada možda već odrasle osobe. Te slike zauvijek ostaju na internetu i doprinose njihovoj trajnoj viktimizaciji. Zahvaljujući označavanju tih slika mogu se usredotočiti na nedavne slučajeve zlostavljanja djece i uklanjanje nezakonitih slika s interneta.

Zato je tu naše osoblje, oni žele pomoći toj djeci. Ovo je poboljšanje iz temelja unaprijedilo kvalitetu života našeg osoblja i onemogućilo da se svaki put iznova suočavaju s istim štetnim poznatim materijalima.

Kako taj rad pomaže tehnološkim tvrtkama u cjelini u borbi protiv takvog materijala na internetu?

Znamo da Google tvrtkama pruža tehnologiju za otkrivanje materijala koji prikazuje seksualno zlostavljanje djece kako bi podržao globalnu borbu protiv takvih materijala. Sam API za podudaranje hasheva izravno utječe na mnoge organizacije koje nisu povezane s NCMEC-om. Sve tehnološke tvrtke sada koriste prednosti jednostavnijeg i učinkovitijeg postupka u Nacionalnom centru. Prijave CyberTiplineu sada se rješavaju pravodobnije i imaju veću dodanu vrijednost nego prije uvođenja ovog alata.

NCMEC je središnji resurs za tehnološke tvrtke, policiju, žrtve i njihove obitelji. Problemima i rješenjima pristupamo na sasvim jedinstven način. Zahvaljujući CyberTiplineu doznajemo za nove ili postojeće materijale na internetu koji prikazuju seksualno zlostavljanje djece. Sve prijave stavljamo na raspolaganje policiji. Nikad ne smijemo zaboraviti da se, na kraju krajeva, radi o stvarnoj djeci koja su žrtve seksualnog iskorištavanja i zlostavljanja. Identificirali smo više od 20.000 seksualno zlostavljane djece, čije je zlostavljanje nepovratno zabilježeno u obliku videozapisa ili slika. Neke od tih žrtava još su djeca, a neke odrasle osobe, no svi su itekako svjesni trajne viktimizacije s kojom su suočeni. Zato nam je toliko važno da učinimo sve što je u našoj moći kako bi te slike što manje kružile internetom. Javnost možda nije svjesna da postoji tendencija ignoriranja materijala koji prikazuje seksualno zlostavljanje djece jer se on smatra „starim” ili „recikliranim”. Stalno pokušavamo podsjetiti ljude da su to stvarna djeca i da se njih više od 20.000 pokušava oporaviti i vratiti kontrolu nad svojim životom. Izuzetno ih tješi to što tvrtke poput Googlea ulažu velike napore u uklanjanje slika koje prikazuju najgore trenutke u njihovu životu.

Ako na internetu naiđete na slike ili materijale koji prikazuju seksualno zlostavljanje djece, to možete prijaviti Nacionalnom centru za nestalu i iskorištavanu djecu (NCMEC) ili odgovarajućem tijelu bilo gdje na svijetu. Google se obvezao na borbu protiv seksualnog zlostavljanja i iskorištavanja djece na internetu i nastoji spriječiti da se njegove usluge upotrebljavaju za širenje materijala koji prikazuje seksualno zlostavljanje djece. Više možete saznati na našoj internetskoj stranici Zaštita djece.