NCMEC, Google dan Teknologi Pencincangan Imej

Bolehkah anda ceritakan tentang NCMEC dan peranan anda?

Saya telah berada di NCMEC selama lebih 20 tahun, jadi saya telah menyaksikan sendiri perkembangan organisasi ini serta cabaran dan ancaman terhadap kanak-kanak dan keselamatan mereka. Saya memulakan kerjaya di sini sebagai penganalisis CyberTipline.

CyberTipline telah dibuat dan dilancarkan pada tahun 1998 sebagai satu cara orang ramai melaporkan kemungkinan insiden eksploitasi kanak-kanak. Pada waktu itu, kami menerima laporan daripada ibu bapa yang khuatir dengan individu dewasa yang berbual dalam talian secara tidak sesuai dengan anak mereka dan orang yang menemukan laman web yang mengandungi CSAM. Kemudian, undang-undang persekutuan telah diluluskan di Amerika Syarikat yang mewajibkan syarikat teknologi AS melaporkan kepada CyberTipline sebarang insiden CSAM yang dipaparkan pada sistem mereka.

Pada peringkat awal, kami boleh menerima lebih daripada 100 laporan eksploitasi kanak-kanak dalam seminggu. Kami menerima laporan pertama kami daripada syarikat teknologi pada tahun 2001. Menjelang tahun 2021, kami menerima kira-kira 70,000 laporan baharu setiap hari. Sesetengah daripada laporan dibuat oleh orang awam, namun majoriti daripada laporan yang kami terima diserahkan oleh syarikat teknologi.

Bagaimanakah NCMEC membantu syarikat dalam talian memerangi CSAM?

Undang-undang tidak mewajibkan sebarang usaha proaktif dilakukan oleh syarikat. Jika syarikat mengesan kandungan CSAM atau mereka menjumpai bahan tersebut, syarikat hanya perlu melaporkan bahan itu. Itulah dorongan untuk perkembangan penting yang telah kami lihat dalam CyberTipline sejak kebelakangan ini. Namun dalam tempoh lima tahun yang lalu, terdapat lonjakan yang paling ketara dalam bilangan laporan. Lonjakan ini boleh dianggap hasil daripada usaha yang dijalankan secara sukarela oleh kebanyakan syarikat teknologi untuk mengesan, mengalih keluar dan melaporkan CSAM secara proaktif.

Salah satu program utama yang kami kendalikan pada Pusat Kebangsaan Kanak-Kanak Hilang & Dieksploitasi ialah platform perkongsian cincangan, kedua-duanya untuk industri membuat sumbangan dan satu lagi untuk NGO terpilih membuat sumbangan. Melalui platform perkongsian cincangan NGO, NCMEC memberikan lebih daripada lima juta nilai cincangan CSAM yang disahkan serta disaring sebanyak tiga kali kepada syarikat teknologi yang berminat untuk membantu syarikat dalam usaha mereka menentang CSAM pada rangkaian mereka. Kebanyakan syarikat besar termasuk Google, telah mengambil kesempatan untuk menggunakan senarai ini dan mengambil langkah proaktif untuk mengalih keluar CSAM daripada platform mereka. Senarai ini turut membolehkan NGO bereputasi baik lain yang memberikan khidmat kepada kanak-kanak untuk memberikan cincangan mereka kepada industri teknologi melalui platform cincangan NCMEC, untuk mencuba meminimumkan keperluan bagi syarikat teknologi untuk berunding dengan setiap NGO secara berasingan.

Kami juga menawarkan platform Perkongsian Cincang Industri, yang membolehkan syarikat terpilih berkongsi cincangan CSAM mereka antara satu sama lain. Kami memastikan bahawa sebarang syarikat yang mahu dan boleh mengesan bahan ini secara proaktif mempunyai semua alatan yang diperlukan untuk melakukan sedemikian dan syarikat tersebut boleh berkongsi cincangan CSAM mereka sendiri antara satu sama lain. Google merupakan penyumbang terbesar kepada platform ini dengan lebih kurang 74% daripada jumlah bilangan cincangan dalam senarai.

Seperti yang boleh anda bayangkan dengan jumlah laporan yang kami dapat sekarang, kami melihat banyak gambaran yang sama dilaporkan berulang kali. Perkara ini sangat difahami memandangkan syarikat menggunakan nilai cincangan untuk mengesan bahan yang diketahui, namun apabila bahan yang diketahui meningkat, NCMEC perlu berupaya mengenal pasti bahan baharu yang telah dihasilkan dan dikongsi dalam talian.

Hash Matching API Google telah membantu NCMEC mengutamakan laporan CyberTipline. Bolehkah anda memberitahu kami secara terperinci tentang cara projek ini bermula?

Kejayaan program perkongsian cincang telah mewujudkan satu cabaran yang benar-benar baharu: jumlah yang menimbulkan cabaran besar. Organisasi bukan untung seperti NCMEC tidak mempunyai kuasa perkomputeran untuk berkembang pada skala sebesar ini. Itulah sebabnya kami sangat teruja dan berterima kasih atas bantuan Google untuk membina alat Hash Matching API.

Pada tahun 2020 kami menerima 21 juta laporan CyberTipline, namun dalam setiap laporan tersebut anda mungkin menerima berbilang imej dan video. 21 juta laporan tersebut sebenarnya disertakan dengan hampir 70 juta imej dan video penderaan seksual kanak-kanak. Jelas sekali terdapat salinan laporan dalam jumlah tersebut dan walaupun mudah bagi NCMEC untuk mengesan padanan tepat, kami tidak akan dapat mengesan padanan visual yang serupa secara besar-besaran dan dalam masa nyata untuk mengenal pasti dan mengutamakan imej yang belum pernah dilihat. Perkara ini penting sewaktu kami cuba mengenal pasti kanak-kanak yang aktif didera secara seksual.

Apakah manfaat yang dibawa oleh Hash Matching API kepada NCMEC?

Kami mempunyai tugas yang sangat penting, mengambil maklumat kritikal ini dan menyampaikan maklumat tersebut secepat mungkin kepada pihak penguatkuasaan undang-undang. Salah satu kelebihan alat ini ialah kami beroleh cara baharu untuk menambahkan nilai yang tinggi kepada laporan CyberTipline.

Kami mempunyai program kerja yang membolehkan kami meneliti setiap imej dan video penderaan seksual kanak-kanak dan melabelkan imej dan video tersebut. Contohnya, ‘Ini ialah CSAM’, ‘Ini bukanlah CSAM’ atau ‘Sukar untuk mengenal pasti umur kanak-kanak atau individu’. Namun, seperti yang anda dapat bayangkan, dengan 70 juta fail yang diterima untuk tahun lepas sahaja, kami tidak akan berjaya melabelkan semua bahan. API ini membolehkan kami melakukan perbandingan. Apabila kami mengetag satu fail, API tersebut membolehkan kami mengenal pasti semua fail visual yang serupa yang kemudiannya kami tag sewajarnya dalam masa nyata. Hasilnya, kami dapat mengetag lebih daripada 26 juta imej.

Keadaan ini membantu kami menambahkan lebih banyak nilai kepada laporan yang kami hantar kepada pihak penguatkuasaan undang-undang supaya mereka dapat menentukan keutamaan laporan yang akan disemak terlebih dahulu. Alat ini turut membantu kami mengenal pasti imej yang belum pernah dilihat sebelum ini. Imej-imej tersebut selalunya mengandungi kanak-kanak yang didera secara seksual. Jika kita mencari sesuatu yang mustahil, dalam situasi ini, sesuatu yang mustahil itu ialah kanak-kanak yang perlu diselamatkan. Alat Google telah membolehkan kami memberikan tumpuan kepada imej yang mengandungi kanak-kanak yang memerlukan bantuan segera.

Bagaimanakah perkara ini memberikan kesan kepada kesejahteraan jurusemak NCMEC yang memproses laporan daripada CyberTipline dan menganalisis kandungan CSAM?

Alat pengesanan CSAM ini telah mengurangkan keperluan kakitangan kami untuk melihat imej yang sama berulang kali. Terdapat imej kanak-kanak yang didera secara seksual yang kanak-kanak tersebut mungkin telah menjadi orang dewasa sekarang. Imej ini berada dalam talian secara berterusan dan menyumbang kepada pemangsaan berterusan buat individu tersebut. Oleh itu, keupayaan untuk mengetag imej tersebut membolehkan kakitangan menumpukan perhatian kepada kanak-kanak yang menggambarkan penderaan seksual terbaharu sambil mengalih keluar imej yang menyalahi undang-undang daripada tontonan.

Itulah sebabnya kakitangan kami berada di sini; mereka mahu membantu kanak-kanak tersebut. Alat ini merupakan peningkatan luar biasa terhadap keupayaan kakitangan kami untuk mengamalkan kesejahteraan dan tidak berdepan dengan bahan sama yang diketahui berbahaya secara berulang kali.

Bagaimanakah kerja ini membantu syarikat teknologi secara keseluruhannya memerangi jenis bahan ini dalam talian?

Kami tahu bahawa Google menyediakan teknologi pengesanan CSAM kepada syarikat untuk menyokong perjuangan global menentang CSAM dan Hash Matching API itu sendiri mempunyai kesan langsung kepada banyak pihak selain NCMEC. Semua syarikat teknologi menikmati manfaat proses yang lebih lancar dan berkesan pada Pusat Kebangsaan. Laporan CyberTipline ditangani dan dikendalikan dalam cara yang tepat pada masanya dan dengan lebih banyak nilai yang ditambahkan berbanding dengan jika kami tidak mempunyai alat ini.

NCMEC ialah sumber utama untuk syarikat teknologi, pihak penguatkuasaan undang-undang, mangsa yang terselamat dan keluarga mereka. Cara kami melihat masalah dan penyelesaian adalah amat unik. Disebabkan CyberTipline, kami sangat menyedari kewujudan CSAM yang baru dihasilkan dan sedia ada yang disebarkan dalam talian. Semua laporan ini tersedia untuk penguatkuasaan undang-undang. Walau apa pun pengakhirannya, kami perlu sentiasa ingat bahawa kami akan menemui kanak-kanak sebenar yang pernah menjadi mangsa seksual dan dieksploitasi.

Kami mengetahui lebih daripada 20,000 kanak-kanak yang telah dikenal pasti menjadi mangsa penderaan seksual dan penderaan mereka dirakam, sama ada dalam bentuk video atau imej. Bekas mangsa ini, sesetengahnya masih kanak-kanak dan sesetengahnya kini sudah menjadi dewasa, sangat menyedari tentang bentuk pemangsaan berterusan yang dihadapi oleh mereka. Itulah sebabnya amat penting bagi kami untuk melakukan segala yang termampu untuk meminimumkan dan mengurangkan penyebaran imej ini.

Satu perkara yang mungkin tidak jelas kepada orang awam ialah terdapat kecenderungan untuk mengetepikan CSAM yang sudah diketahui, kerana imej itu mungkin dianggap “lama” atau “diedarkan semula”. Kami sentiasa mengingatkan orang ramai bahawa individu ini ialah kanak-kanak sebenar – bahawa lebih daripada 20,000 individu tersebut sedang berusaha untuk pulih dan berusaha untuk mengatur kehidupan mereka semula. Mereka berasa amat lega apabila mengetahui bahawa syarikat seperti Google berusaha sedaya upaya untuk memadamkan imej yang menggambarkan detik-detik terburuk dalam hidup mereka.

Jika anda menemukan imej atau bahan penderaan seksual kanak-kanak dalam talian, anda boleh melaporkan hal tersebut kepada Pusat Kebangsaan untuk Kanak-Kanak Hilang dan Dieksploitasi (NCMEC), atau kepada pihak berkuasa yang berkenaan di seluruh dunia.

Google beriltizam untuk memerangi penderaan seksual dan eksploitasi kanak-kanak dalam talian serta menghalang perkhidmatan kami daripada digunakan untuk menyebarkan bahan penderaan seksual kanak-kanak (CSAM). Anda boleh mengetahui perkara ini dengan lebih lanjut melalui laman web Melindungi Kanak-kanak kami.