NCMEC, Google dan Teknologi Pencincangan Imej

Di Amerika Syarikat, Pusat Kebangsaan bagi Kanak-kanak Hilang & Dieksploitasi (NCMEC) menerima berjuta-juta laporan bahan penderaan seksual kanak-kanak (CSAM) secara dalam talian setiap tahun. Naib Presiden Kanan dan Ketua Pegawai Operasi NCMEC, Michelle DeLaune bercakap tentang evolusi organisasi tersebut, cara syarikat teknologi meningkatkan usaha untuk menangani CSAM dan API Padanan Cincangan Google.

Bolehkah anda beritahu kami tentang NCMEC dan apakah peranan anda?

Saya telah berada dalam NCMEC selama lebih daripada 20 tahun, jadi saya telah menyaksikan sendiri evolusi organisasi dan cabaran serta ancaman kepada kanak-kanak kita dan keselamatan mereka. Saya memulakan kerjaya saya di sini sebagai juruanalisis CyberTipline.

CyberTipline telah dibangunkan dan dilancarkan pada tahun 1998 sebagai cara untuk ahli masyarakat melaporkan kejadian eksploitasi kanak-kanak yang mungkin berlaku. Pada waktu itu, kami menerima laporan daripada ibu bapa yang khuatir dengan individu dewasa yang berbual dalam talian secara tidak sesuai dengan anak mereka dan orang yang menemukan laman web yang mengandungi CSAM. Kemudian, undang-undang persekutuan telah diluluskan di Amerika Syarikat yang memerlukan syarikat teknologi AS untuk melaporkan kepada CyberTipline sebarang kejadian CSAM yang jelas pada sistem mereka.

Pada ketika itu, kami mungkin menerima lebih daripada 100 laporan berkenaan eksploitasi kanak-kanak dalam seminggu. Kami menerima laporan pertama kami daripada syarikat teknologi pada tahun 2001. Kini pada tahun 2021, kami menerima lebih kurang 70,000 laporan baharu setiap hari. Sesetengah daripada laporan dibuat oleh orang awam, namun majoriti daripada laporan yang kami terima diserahkan oleh syarikat teknologi.

Bagaimanakah NCMEC membantu syarikat dalam talian membanteras CSAM?

Undang-undang tidak memerlukan syarikat menjalankan sebarang usaha proaktif. Jika syarikat mengesan kandungan CSAM atau mereka menjumpai bahan tersebut, syarikat hanya perlu melaporkan bahan itu. Itulah dorongan untuk perkembangan penting yang telah kami lihat dalam CyberTipline sejak bertahun-tahun. Namun dalam tempoh lima tahun yang lalu, terdapat lonjakan bilangan laporan yang sangat ketara. Lonjakan ini mungkin disebabkan oleh usaha yang dijalankan secara sukarela oleh kebanyakan syarikat teknologi untuk mengesan, mengalih keluar dan melaporkan CSAM secara proaktif.

Salah satu daripada program utama yang kami kendalikan di Pusat Kebangsaan bagi Kanak-kanak Hilang & Dieksploitasi ialah platform perkongsian cincangan, untuk sumbangan industri dan juga sumbangan NGO terpilih. Melalui platform perkongsian cincangan NGO, NCMEC memberikan lebih daripada lima juta nilai cincangan CSAM yang disahkan serta disaring sebanyak tiga kali kepada syarikat teknologi yang berminat untuk membantu syarikat dalam usaha mereka untuk membanteras CSAM dalam rangkaian mereka. Kebanyakan syarikat besar termasuk Google, telah menggunakan senarai ini dan mengambil langkah proaktif untuk mengalih keluar CSAM daripada platform mereka. Senarai ini turut membolehkan NGO bereputasi baik lain yang memberikan khidmat kepada kanak-kanak untuk memberikan cincangan mereka kepada industri teknologi melalui platform cincangan NCMEC, untuk cuba meminimumkan keperluan bagi syarikat teknologi untuk berunding dengan setiap NGO secara individu.

Kami juga menawarkan platform Perkongsian Cincangan Industri yang membolehkan syarikat terpilih untuk berkongsi cincangan CSAM mereka sendiri antara satu sama lain. Kami memastikan bahawa sebarang syarikat yang ingin dan boleh mengesan bahan ini secara proaktif mempunyai semua alatan yang diperlukan untuk melakukan sedemikian dan syarikat tersebut boleh berkongsi cincangan CSAM mereka sendiri antara satu sama lain. Google merupakan penyumbang terbesar kepada platform ini dengan lebih kurang 74% daripada jumlah bilangan cincangan dalam senarai.

Seperti yang anda boleh bayangkan dengan jumlah laporan yang kami terima sekarang, kami melihat banyak gambar yang sama dilaporkan berulang kali. Perkara ini sangat difahami memandangkan syarikat menggunakan nilai cincangan untuk mengesan bahan yang diketahui, namun apabila bahan yang diketahui meningkat, adalah lebih penting bagi NCMEC untuk boleh mengenal pasti bahan baharu yang telah dihasilkan dan dikongsi dalam talian.

API Padanan Cincangan Google telah membantu NCMEC mengutamakan laporan CyberTipline. Bolehkah anda beritahu kami secara terperinci bagaimana projek ini bermula?

Kejayaan program perkongsian cincangan telah menghasilkan cabaran serba baharu: satu jumlah yang menyertakan cabaran besar. Organisasi bukan untung seperti NCMEC tidak mempunyai kuasa perkomputeran untuk mengendalikan volum sebegini. Itulah sebabnya kami sangat teruja dan berterima kasih atas bantuan Google membina alat API Padanan Cincangan.

Pada tahun 2020, kami telah menerima sebanyak 21 juta laporan CyberTipline, namun dalam setiap laporan tersebut, berbilang imej dan video mungkin disertakan. 21 juta laporan tersebut sebenarnya disertakan dengan hampir 70 juta imej dan video penderaan seksual kanak-kanak. Sudah tentu ada bahan yang sama dalam jumlah ini, dan walaupun mudah bagi NCMEC untuk mengesan padanan tepat, kami tidak akan boleh mengesan padanan visual yang sama secara besar-besaran dan dalam masa nyata untuk mengenal pasti dan mengutamakan imej yang belum pernah dilihat. Perkara ini penting sewaktu kami mencuba untuk mengenal pasti kanak-kanak yang aktif didera secara seksual.

Apakah manfaat API Padanan Cincangan kepada NCMEC?

Kami mempunyai tugas yang sangat penting, iaitu untuk menerima maklumat kritikal ini dan menyerahkan maklumat kepada penguatkuasaan undang-undang secepat mungkin. Salah satu kelebihan alat ini ialah kami beroleh cara baharu untuk menambahkan nilai yang tinggi kepada laporan CyberTipline.

Kami mempunyai program tugasan yang memerlukan kami untuk menyemak setiap imej dan video penderaan seksual kanak-kanak dan melabelkannya. Contohnya, ‘Ini ialah CSAM’, ‘Ini bukanlah CSAM’ atau ‘Sukar untuk mengenal pasti umur kanak-kanak atau individu.’ Namun, seperti yang anda boleh bayangkan, dengan 70 juta fail yang diterima untuk tahun lepas sahaja, kami tidak akan berjaya melabelkan semua bahan. API ini membolehkan kami melakukan perbandingan. Apabila kami mengetag satu fail, API tersebut membolehkan kami mengenal pasti semua fail visual yang sama yang kemudiannya kami tag sewajarnya dalam masa nyata. Hasilnya, kami boleh mengetag lebih daripada 26 juta imej.

Alat ini membantu kami menambahkan lagi nilai kepada laporan yang kami hantar kepada penguatkuasaan undang-undang supaya mereka boleh mengutamakan laporan yang perlu disemak terlebih dahulu. Alat ini turut membantu kami mengenal pasti imej yang belum pernah dilihat sebelum ini. Imej-imej tersebut selalunya mengandungi kanak-kanak yang didera secara seksual. Jika kita mencari sesuatu yang mustahil, dalam situasi ini, sesuatu yang mustahil itu ialah kanak-kanak yang perlu diselamatkan. Alat Google telah membolehkan kami memberikan tumpuan kepada imej yang mengandungi kanak-kanak yang memerlukan bantuan segera.

Bagaimanakah kesannya kepada jurusemak NCMEC yang memproses laporan daripada CyberTipline dan menganalisis kandungan CSAM?

Alat pengesanan CSAM ini telah mengurangkan keperluan kakitangan kami untuk melihat imej yang sama secara berulang kali. Terdapat imej kanak-kanak yang didera secara seksual yang kanak-kanak tersebut mungkin telah menjadi orang dewasa sekarang. Imej-imej ini berada dalam talian secara berterusan dan menyumbang kepada pemangsaan berterusan buat individu tersebut. Oleh itu, keupayaan untuk mengetag imej tersebut membolehkan kakitangan memberi tumpuan kepada kes penderaan seksual kanak-kanak yang terkini sambil mengalih keluar imej yang menyalahi undang-undang daripada tontonan.

Itulah sebabnya kakitangan kami berada di sini; kerana mereka mahu memberikan bantuan kepada kanak-kanak tersebut. Alat ini merupakan peningkatan luar biasa terhadap keupayaan kakitangan kami untuk mengamalkan kesejahteraan dan tidak berdepan dengan bahan sama yang diketahui berbahaya secara berulang kali.

Bagaimanakah tugas ini boleh membantu syarikat teknologi secara keseluruhan membanteras jenis bahan ini dalam talian?

Kami tahu bahawa Google memberikan teknologi pengesanan CSAM kepada syarikat sebagai bantuan sokongan kepada penentangan global terhadap CSAM dan API Padanan Cincangan sendiri memberi kesan kepada banyak pihak selain NCMEC. Semua syarikat teknologi menikmati manfaat proses yang lebih lancar dan berkesan di Pusat Nasional. Laporan CyberTipline ditangani dan dikendalikan dengan cara yang tepat pada masanya dan dengan lebih banyak nilai tambah berbanding jika kami tidak mempunyai alat ini.

NCMEC ialah sumber utama untuk syarikat teknologi, penguatkuasa undang-undang, bekas mangsa dan keluarga mereka. Cara kami melihat masalah dan penyelesaian adalah amat unik. Disebabkan CyberTipline, kami sangat menyedari kewujudan CSAM yang baru dihasilkan dan sedia ada yang disebarkan dalam talian. Semua laporan ini disediakan untuk penguatkuasaan undang-undang. Walau apa pun pengakhirannya, kami perlu sentiasa ingat bahawa kami akan menemui kanak-kanak sebenar yang pernah menjadi mangsa seksual dan dieksploitasi.

Lebih 20,000 kanak-kanak telah dikenal pasti menjadi mangsa dera secara seksual dan penderaan mereka telah dirakam, sama ada dalam bentuk video atau imej. Bekas mangsa ini, sesetengahnya masih kanak-kanak dan sesetengahnya kini sudah menjadi dewasa, sangat menyedari tentang bentuk pemangsaan berterusan yang dihadapinya. Disebabkan inilah sangat penting bagi kami untuk berusaha sedaya upaya bagi meminimumkan dan mengurangkan penyebaran imej ini.

Seperkara yang mungkin tidak jelas kepada umum ialah mungkin ada kecenderungan untuk mengetepikan CSAM yang diketahui kerana imej tersebut mungkin dianggap “lama” atau “disebarkan semula”. Kami sentiasa berusaha mengingatkan orang ramai bahawa perkara ini melibatkan kanak-kanak sebenar – bahawa lebih daripada 20,000 individu tersebut sedang cuba untuk pulih dan mengawal semula kehidupan mereka. Individu ini mendapat ketenangan jiwa apabila mengetahui syarikat seperti Google sedang berusaha sedaya upaya untuk mengalih keluar imej yang menggambarkan detik paling buruk dalam hidup mereka.

Jika anda menemukan imej atau bahan penderaan seksual kanak-kanak dalam talian, anda boleh membuat laporan kepada National Center for Missing and Exploited Children (NCMEC), atau kepada pihak berkuasa dari seluruh dunia yang berkenaan. 

Google komited untuk membanteras penderaan seksual kanak-kanak dan eksploitasi dalam talian serta menghalang perkhidmatan kami daripada digunakan untuk menyebarkan bahan penderaan seksual kanak-kanak (CSAM). Anda boleh mengetahui lebih lanjut tentang perkara ini di laman web Melindungi Kanak-kanak kami.