NCMEC, Google in tehnologija zgoščevanja slik
V Združenih državah Amerike Nacionalni center za pogrešane in zlorabljene otroke (NCMEC) vsako leto prejme na milijone prijav gradiva s spolno zlorabo otrok (CSAM) v spletu. Michelle DeLaune, višja podpredsednica uprave in poslovna direktorica centra NCMEC, govori o razvoju te organizacije in o tem, kako si tehnološka podjetja prizadevajo za preprečevanje CSAM, ter o Googlovem vmesniku API za ujemanje zgoščenih vrednosti.
Ali nam lahko poveste več o organizaciji NCMEC in vlogi, ki jo imate v njej?
Za NCMEC delam že več kot 20 let, zato sem iz prve roke spremljala razvoj organizacije ter izzive in grožnje za naše otroke in njihovo varnost. Začela sem delati kot analitik v središču CyberTipline.
Središče CyberTipline je bilo ustanovljeno in je začelo delovati leta 1998 kot kontaktna točka, kjer lahko člani javnosti prijavijo morebitno izkoriščanje otrok. Takrat smo prejemali prijave staršev, zaskrbljenih, da se je odrasla oseba v spletu neprimerno pogovarjala z njihovim otrokom, in ljudi, ki so naleteli na spletna mesta z gradivom s spolno zlorabo. Nato je bil v Združenih državah Amerike sprejet zvezni zakon, ki je določal, da morajo ameriška tehnološka podjetja središču CyberTipline prijaviti vse domnevne primere CSAM v svojih sistemih.
V tistih zgodnjih časih smo tedensko morda dobili nekaj čez 100 prijav o izkoriščanju otrok. Prvo prijavo od tehnološkega podjetja smo prejeli leta 2001. Dvajset let kasneje prejemamo približno 70.000 novih prijav vsak dan. Nekatere od teh so od meščanov, večino pa jih pošljejo tehnološka podjetja.
Kako NCMEC pomaga spletnim podjetjem v boju proti CSAM?
Zakonodaja od podjetij ne zahteva nobenega proaktivnega ukrepanja. Če najdejo vsebino CSAM ali so obveščena o njej, jo morajo prijaviti. Gre dejansko za spodbudo za stalno rast, ki jo skozi leta opažamo v središču CyberTipline. Vendar pa je največji porast števila prijav opaziti v zadnjih petih letih. Takšen nenadni razmah lahko pripišemo prizadevanjem številnih tehnoloških podjetij, ki na lastno pobudo poskušajo odkriti, odstraniti in prijaviti CSAM.
Eden vodilnih programov, ki ga vodimo v NCMEC, so platforme za izmenjavo zgoščenih vrednosti; v okviru ene lahko prispevajo deležniki iz panoge, druga pa je za izbrane nevladne organizacije. NCMEC v okviru platforme, na kateri si lahko zgoščene vrednosti izmenjujejo nevladne organizacije, zainteresiranim tehnološkim podjetjem zagotavlja več kot 5 milijonov zgoščenih vrednosti potrjenega in trikrat preverjenega CSAM, ki jim pomaga v prizadevanjih za preprečevanje CSAM v svojih omrežjih. Številna velika podjetja, vključno z Googlom, uporabljajo ta seznam in proaktivno ukrepajo pri odstranitvi CSAM s svojih platform. Ta seznam omogoča tudi drugim uglednim nevladnim organizacijam, ki delujejo z otroki, da svoje zgoščene vrednosti posredujejo tehnološkim podjetjem prek platforme za zgoščene vrednosti NCMEC in tako poskušajo zmanjšati potrebo, da bi se moralo tehnološko podjetje obračati na vsako nevladno organizacijo posebej.
Ponujamo tudi panožno platformo za izmenjavo zgoščenih vrednosti, ki izbranim podjetjem omogoča medsebojno izmenjavo zgoščenih vrednosti za CSAM. Zagotavljamo, da so vsakemu podjetju, ki želi in je zmožno proaktivno odkrivati to gradivo, na voljo vsa orodja, ki jih potrebuje, da to stori, in da si lahko podjetja medsebojno izmenjujejo lastne zgoščene vrednosti za CSAM. Google največ prispeva v to platformo, saj je njegovih približno 74 % vseh zgoščenih vrednosti na seznamu.
Glede na količino prijav, ki jih zdaj prejemamo, si lahko mislite, da so mnogokrat prijavljene iste slike. To je povsem razumljivo, saj podjetja uporabljajo zgoščene vrednosti za odkrivanje znanega gradiva, vendar je z vse večjo količino tega gradiva vedno pomembnejše, da lahko NCMEC odkriva novo gradivo, ki nastaja in se izmenjuje v spletu.
Googlov API za ujemanje zgoščenih vrednosti je Nacionalnemu centru za pogrešane in zlorabljene otroke pomagal zagotoviti prednostno obravnavo prijav na CyberTipline. Ali nam lahko poveste več o začetkih tega projekta?
Uspeh programa souporabe zgoščenih vrednosti je ustvaril povsem nov izziv: obseg, ki je predstavljal izjemne izzive. Neprofitna organizacija, kot je NCMEC, nima računalniških zmogljivosti, potrebnih za širitev na tak obseg. Zato smo si tako želeli Googlove pomoči pri razvoju vmesnika API za ujemanje zgoščenih vrednosti.
Leta 2020 smo prejeli 21 milijonov prijav na CyberTipline, vendar je lahko v vsaki od teh prijav več slik in videoposnetkov. V teh 21 milijonih prijav je dejansko šlo za skoraj 70 milijonov slik in videoposnetkov spolne zlorabe otrok. Seveda so v teh količinah tudi dvojniki in NCMEC sicer zlahka ugotovi natančna ujemanja, ne moremo pa v velikem obsegu in sproti ugotavljati vizualno podobnih ujemanj, da bi lahko prepoznali in dali prednost posnetkom, ki še niso bili videni. In to je ključno, ko poskušamo ugotoviti identiteto otrok, ki so žrtve dejavne spolne zlorabe.
Kakšne so prednosti vmesnika API za ujemanje zgoščenih vrednosti za NCMEC?
Imamo pomembno nalogo, in sicer da te kritične informacije čim prej posredujemo organom pregona. Ena od prednosti tega orodja je, da nam zagotavlja nov način dodajanja izjemne vrednosti prijavam iz središča CyberTipline.
Imamo program dela, v okviru katerega pregledujemo in označujemo vsako posamezno sliko in vsak posamezni videoposnetek spolne zlorabe otrok. Primer: »To je CSAM«, »To ni CSAM« ali »Tu je težko ugotoviti starost otroka ali osebe«. Toda, kot si lahko mislite, glede na to, da je bilo samo lani 70 milijonov datotek, ne bomo nikoli mogli označiti prav vseh. Z vmesnikom API lahko izvedemo primerjavo. Ko označimo eno datoteko, nam API omogoča, da prepoznamo vse vizualno podobne datoteke, ki jih nato ustrezno sproti označimo. Posledično smo lahko označili že več kot 26 milijonov slik.
To nam pomaga dodati večjo vrednost prijavam, ki jih pošiljamo organom pregona, da lažje določijo, katere prijave obravnavati prednostno. Pomaga nam tudi ugotoviti, katere slike še niso bile videne. Te slike pogosto kažejo otroka nekje na svetu, ki je žrtev spolnih zlorab. Če gledamo pregovorno kopico sena, v kateri je igla, je igla v tem primeru otrok, ki ga je treba rešiti. Googlovo orodje se nam je pomagalo osredotočiti na tiste slike, na katerih so otroci, ki potrebujejo takojšnjo pomoč.
In kako je to vplivalo na počutje pregledovalcev organizacije NCMEC, ki obdelujejo prijave iz središča CyberTipline in analizirajo vsebino CSAM?
Z orodjem za odkrivanje CSAM našim zaposlenim ni treba vedno znova gledati istih slik. Med njimi so slike spolno zlorabljenih otrok, ki so zdaj morda že odrasli. Te slike so za vedno prisotne v spletu in prispevajo k njihovi nadaljnji viktimizaciji. Zato se lahko z označevanjem teh slik osredotočijo na tiste otroke, pri katerih gre za prikaze nedavnih spolnih zlorab, hkrati pa se nezakonite slike odstranijo in niso več vidne.
Zato so naši zaposleni tu, pomagati želijo tem otrokom. Gre za prelomno izboljšavo, ki je našim zaposlenim omogočila, da lažje poskrbijo za svoje dobro počutje ter jim ni treba znova in znova gledati istega znanega škodljivega gradiva.
Kako to delo pomaga tehnološkim podjetjem pri boju proti tovrstnemu gradivu v spletu?
Vemo, da Google tehnologijo za prepoznavanje CSAM daje na voljo podjetjem, da bi jim pomagal podpreti mednarodni boj proti CSAM, API za ujemanje zgoščenih vrednosti pa ima neposreden vpliv še na mnoge druge deležnike poleg centra NCMEC. Vsa tehnološka podjetja so deležna prednosti optimiziranega učinkovitega postopka v NCMEC. Prijave na CyberTipline sprejemamo in obdelujemo bolj pravočasno in z večjo dodano vrednostjo, kot če ne bi imeli tega orodja.
NCMEC je osrednji vir za tehnološka podjetja, organe pregona, žrtve in njihove družine. Imamo neverjetno edinstven vpogled v težave in rešitve. Zaradi središča CyberTipline smo zelo na tekočem glede novoustvarjenega in obstoječega CSAM, ki kroži v spletu. Vse te prijave damo na voljo organom pregona. Nikoli ne smemo pozabiti, da gre pri vsem tem za resnične otroke, ki so žrtve spolnih zlorab in izkoriščanja.
Vemo za več kot 20.000 spolno zlorabljenih otrok, katerih identiteta je bila ugotovljena, ta zloraba pa je trajno zabeležena na videoposnetkih ali slikah. Te žrtve, nekatere so ob zlorabi bile še otroci, nekatere pa so zdaj seveda že odrasli, se še predobro zavedajo še vedno trajajoče viktimizacije, ki so ji izpostavljene. Zato je tako pomembno, da storimo vse, kar je mogoče, da bi karseda zmanjšali in omejili kroženje teh slik.
Nekaj, kar morda ni samoumevno javnosti, je, da obstaja težnja, da se CSAM prezre, ker naj bi bile slike »stare« ali »vedno znova ponavljajoče se«. Zato si stalno prizadevamo javnost opomniti, da so to resnični otroci. Da teh več kot 20.000 posameznikov poskuša zaceliti svoje rane in znova prevzeti nadzor nad svojim življenjem. V veliko tolažbo jim je, da vedo, da si podjetja, kot je Google, vsakodnevno prizadevajo odstraniti podobe, ki prikazujejo najhujše trenutke njihovega življenja.
Če v spletu naletite na posnetke spolne zlorabe otrok, jih lahko prijavite Nacionalnemu centru za pogrešane in zlorabljene otroke (NCMEC) ali ustreznemu organu po svetu.
Pri Googlu smo zavezani k boju proti gradivu s spolno zlorabo in izkoriščanju otrok v spletu in preprečevanju, da bi se naše storitve uporabljale za širjenje gradiva s spolno zlorabo otrok (CSAM). Več o tem lahko preberete na našem spletnem mestu o zaščiti otrok.
