NCMEC, Google आणि इमेज हॅशिंग तंत्रज्ञान

अमेरिकेतील नॅशनल सेंटर फॉर मिसिंग अँड एक्स्प्लॉयटेड चिल्ड्रन (NCMEC) ला दरवर्षी ऑनलाइन बाल लैंगिक अत्याचाराशी संबंधित काँटेंटच्या (CSAM) लाखो तक्रारी मिळतात. संस्थेची वाढ, CSAM हाताळण्यात तंत्रज्ञान कंपन्या कसा पुढाकार घेत आहेत आणि Google चे Hash Matching API या गोष्टींबद्दल NCMEC च्या सीनियर व्हाइस प्रेसिडेंट व चीफ ऑपरेटिंग ऑफिसर, मिशेल डिलॉन माहिती देत आहेत.

तुम्ही आम्हाला NCMEC विषयी आणि तिथे तुमची भूमिका काय आहे याविषयी सांगू शकता का?

मी २० वर्षांपेक्षा अधिक काळ NCMEC मध्ये काम करत आहे, त्यामुळे मी संस्थेची वाढ आणि आपल्या लहान मुलांसमोर व त्यांच्या सुरक्षिततेसाठी असलेली आव्हाने आणि धोके या गोष्टींची प्रत्यक्ष साक्षीदार आहे. मी माझ्या येथील करिअरची सुरुवात CyberTipline विश्लेषक म्हणून केली होती.

लोकांनी लहान मुलांच्या शोषणाच्या कोणत्याही संभाव्य घटनांची तक्रार करण्याचा मार्ग म्हणून CyberTipline हे १९९८ मध्ये तयार आणि लाँच केले गेले होते. त्यावेळी, ज्यांना एखादी प्रौढ व्यक्ती त्यांच्या लहान मुलाशी ऑनलाइन असताना अनुचित पद्धतीने बोलत असल्याबद्दल काळजी वाटत होती अशा पालकांकडून आणि ज्यांना CSAM असलेल्या वेबसाइट आढळल्या होत्या अशा लोकांकडून आम्हाला तक्रारी मिळत होत्या. त्यानंतर अमेरिकेमध्ये फेडरल कायदा अंमलात आणला गेला, ज्यानुसार अमेरिकेमधील तंत्रज्ञान कंपन्यांनी त्यांच्या सिस्टीमवर दिसणाऱ्या CSAM च्या कोणत्याही संभाव्य घटनांची माहिती CyberTipline ला देणे आवश्यक होते.

सुरुवातीच्या दिवसांमध्ये, आम्हाला एका आठवड्यात लहान मुलांच्या शोषणाच्या १०० पेक्षा जास्त तक्रारी क्वचितच मिळायच्या. २००१ मध्ये आम्हाला तंत्रज्ञान कंपनीकडून पहिल्यांदा तक्रार मिळाली होती. त्यातुलनेत २०२१ मध्ये आम्हाला दररोज अंदाजे ७०,००० नवीन तक्रारी मिळत असतात. यांपैकी काही लोकांकडून मिळालेल्या असतात, पण बहुतांशी तक्रारी तंत्रज्ञान कंपन्यांद्वारे सबमिट केल्या जात आहेत.

CSAM शी लढा देण्यात NCMEC हे ऑनलाइन कंपन्यांना कशी मदत करते?

कंपन्यांनी स्वतःहून कोणतेही प्रयत्न करावेत, हे कायद्याने आवश्यक नाही. फक्त त्यांनी CSAM काँटेंट सापडल्यास किंवा त्यांना त्याविषयी माहिती मिळाल्यास, त्याची तक्रार करायला हवी. अनेक वर्षांमध्ये आम्ही CyberTipline मध्ये जी वाढ झाल्याचे पाहिले आहे, त्याला खरंतर हेच कारणीभूत आहे. पण मागील पाच वर्षांत तक्रारींमध्ये सर्वात लक्षणीय वाढ झाली आहे. CSAM स्वतःहून शोधण्यासाठी, काढून टाकण्यासाठी आणि त्याची तक्रार करण्यासाठी अनेक तंत्रज्ञान कंपन्या स्व-प्रेरणेने करत असलेल्या प्रयत्नांमुळे ही मोठ्या प्रमाणातील वाढ दिसते आहे असे असू शकते.

नॅशनल सेंटर फॉर मिसिंग अँड एक्स्प्लॉयटेड चिल्ड्रन येथे आम्ही चालवत असलेला एक प्रमुख उपक्रम म्हणजे हॅश शेअरिंग प्लॅटफॉर्म, हे उद्योग जगताने योगदान देण्यासाठी आणि निवडक NGOs कडून मदत मिळण्यासाठी अशा दोन्ही उद्देश्यांसाठी आहेत. स्वारस्य असलेल्या तंत्रज्ञान कंपन्यांच्या नेटवर्कवरील CSAM शी लढा देण्याच्या प्रयत्नांमध्ये त्यांना मदत करण्यासाठी, NCMEC हे त्यांना NGO साठीच्या हॅश शेअरिंग प्लॅटफॉर्ममार्फत कंफर्म केलेल्या, तीनदा तपासणी केलेल्या CSAM ची ५० लाख हॅश मूल्ये पुरवते. Google सोबतच, अनेक मोठ्या कंपन्यांनी ही यादी मिळवली आहे आणि त्यांच्या प्लॅटफॉर्मवरून CSAM काढून टाकण्यासाठी ते स्वतःहून पावले उचलत आहेत. तंत्रज्ञान कंपनीने प्रत्येक NGO कडे स्वतंत्रपणे जाण्याची गरज कमी करण्यासाठी, लहान मुलांसाठी काम करणाऱ्या इतर प्रतिष्ठित NGOs नादेखील त्यांची हॅश NCMEC च्या हॅश प्लॅटफॉर्ममार्फत तंत्रज्ञान उद्योगाला पुरवण्यासाठी ही यादी मदत करते.

आम्ही उद्योगासाठीच्या हॅश शेअरिंग प्लॅटफॉर्मची सुविधादेखील देतो, ज्यामुळे निवडक कंपन्यांना त्यांची स्वतःची CSAM हॅश एकमेकांसोबत शेअर करता येतात. हा काँटेंट शोधण्याची इच्छा आणि तसे स्वतःहून करण्याची क्षमता असलेल्या सर्व कंपनीकडे त्यासाठी आवश्यक सर्व टूल असल्याची व कंपन्यांना त्यांची स्वतःची CSAM हॅश एकमेकांसोबत शेअर करता येत असल्याची आम्ही खात्री करत आहोत. यादीमधील एकूण हॅशपैकी अंदाजे ७४% हॅशसह Google हे या प्लॅटफॉर्मवरील सर्वात मोठे कंट्रिब्युटर आहे.

आता आम्हाला मिळणाऱ्या तक्रारींचे प्रमाण लक्षात घेता तुम्ही कल्पना करू शकता, की एकाच काँटेंटच्या एकापेक्षा जास्त वेळा तक्रारी केल्याचे आम्हाला आढळत आहे. माहीत असलेला काँटेंट शोधण्यासाठी कंपन्या हॅश मूल्ये वापरत असल्यामुळे असे होईल हे समजते, पण जसजसा माहीत असलेला काँटेंट वाढत जातो, तसतसा ऑनलाइन तयार आणि शेअर करण्यात आलेला नवीन काँटेंट ओळखता येणे NCMEC साठी जास्त महत्त्वाचे आहे.

CyberTipline तक्रारींना प्राधान्य देण्यात Google च्या Hash Matching API ची NCMEC ला मदत झाली आहे. हा प्रोजेक्ट कसा सुरू झाला याविषयी तुम्ही आम्हाला सांगू शकता का?

हॅश शेअरिंग प्रोग्रामच्या यशाने एक नवीन आव्हान निर्माण झाले आहे : याचे खूप वाढलेले प्रमाण, ज्यामुळे अनेक समस्या उद्भवतात. NCMEC सारख्या ना-नफा संस्थेकडे या प्रमाणासाठी आवश्यक तितकी काँप्युटेशनल पॉवर नाही. म्हणूनच Hash Matching API टूल तयार करायला हातभार लावण्यात Google ने केलेल्या मदतीबद्दल आम्ही उत्सुक आणि आभारी आहोत.

२०२० मध्ये आम्हाला २.१ कोटी CyberTipline तक्रारी मिळाल्या होत्या, पण त्या प्रत्येक तक्रारीमध्ये तुम्हाला एकाहून अधिक फोटो आणि व्हिडिओ मिळू शकतात. त्या २.१ कोटी तक्रारींमध्ये प्रत्यक्षात बाल लैंगिक अत्याचाराचे सुमारे ७ कोटी फोटो आणि व्हिडिओ होते. त्या संख्येमध्ये डुप्लिकेट काँटेट असणारच आणि अचूक जुळण्या शोधणे NCMEC साठी सोपे असले, तरीही याआधी अजिबात न पाहिल्या गेलेल्या इमेज ओळखून त्यांना प्राधान्य देण्यासाठी, आम्हाला दिसायला समान असलेल्या जुळण्या आवश्यक त्या प्रमाणात व रीअल टाइममध्ये डिटेक्ट करता येणार नाहीत आणि ज्यांच्यावर प्रत्यक्षात लैंगिक अत्याचार होत आहेत, त्या मुलांना ओळखण्याचा आम्ही प्रयत्न करत असताना हे अतिशय महत्त्वाचे ठरते.

Hash Matching API मुळे NCMEC ला कोणते फायदे झाले आहेत?

ही महत्त्वाची माहिती मिळवून ती शक्य तितक्या लवकर कायदा अंमलबजावणीकडे देण्याचे अत्यंत महत्त्वाचे काम आमच्याकडे आहे. या टूलचा एक फायदा असा आहे, की यामुळे आम्हाला CyberTipline तक्रारींच्या गुणवत्तेमध्ये सुधारणा करण्याचा नवीन मार्ग मिळाला आहे.

आमच्या एका प्रोग्राममध्ये आम्ही बाल लैंगिक अत्याचाराची प्रत्येक इमेज आणि व्हिडिओ पाहून त्याला लेबल लावतो . उदाहरणार्थ, ‘हा CSAM आहे’, ‘हा CSAM नाही’ किंवा ‘या लहान मुलाचे किंवा व्यक्तीचे वय ओळखणे अवघड आहे’. पण, फक्त मागच्या वर्षातील ७ कोटी फाइल ही संख्या पाहता तुम्ही कल्पना करू शकता, की आम्हाला कधीच त्या सर्वांना लेबल लावता येणार नाही. या API मुळे आम्हाला तुलना करता येते. आम्ही एक फाइल टॅग केल्यावर, या API द्वारे आम्ही त्यासारख्या दिसणाऱ्या सर्व फाइल शोधून काढतो, त्या आम्ही नंतर त्यांना त्यानुसार रीअल टाइममध्ये टॅग करतो. त्यामुळे, आम्ही २.६ कोटी फ़ोटो आणि व्हिडिओ टॅग केले आहेत.

आम्ही कायदा अंमलबजावणीकडे पाठवत असलेल्या तक्रारींच्या गुणवत्तेमध्ये सुधारणा करण्यात आम्हाला यामुळे मदत होते, जेणेकरून ते कोणत्या तक्रारींचे पुनरावलोकन करण्यास प्राधान्य द्यायचे हे ठरवू शकतात. कोणत्या इमेज याआधी अजिबात पाहिल्या गेलेल्या नाहीत हे ओळखण्यातदेखील यामुळे आम्हाला मदत होते. त्या इमेजमध्ये बरेचदा जगाच्या कोणत्यातरी कोपऱ्यातील असे एखादे लहान मूल असते, ज्याच्यावर लैंगिक अत्याचार केले जात आहेत. गवताच्या ढिगाऱ्यात सुई शोधणे या म्हणीनुसार आपण या काँटेंटच्या ढिगाऱ्यात जर ती सुई शोधत असू, तर ती सुई म्हणजे आपल्याला वाचवायचे असलेले ते एक लहान मूल आहे. Google च्या टूलमुळे आम्हाला अशा इमेज नेमकेपणाने शोधता येतात, ज्यांमध्ये तातडीने मदतीची गरज असलेली लहान मुले आहेत.

आणि CyberTipline वरून आलेल्या तक्रारींवर प्रक्रिया करणाऱ्या व CSAM काँटेंटचे विश्लेषण करणाऱ्या NCMEC च्या मानवी परीक्षणकर्त्यांच्या स्वास्थ्यावर याचा कसा परिणाम झाला आहे?

या CSAM डिटेक्शन टूलमुळे आमच्या कर्मचाऱ्यांनी त्याच इमेज पुनःपुन्हा पाहण्याची गरज कमी झाली आहे. लहान मुलांवर लैंगिक अत्याचार होत असल्याच्या अशा इमेज आहेत, ज्यामधील लहान मुलांनी आता प्रौढ वयात प्रवेश केला असेल. या इमेज कायमस्वरूपी ऑनलाइन उपलब्ध असतात आणि यामुळे त्या व्यक्तींवर हा अत्याचार कायम सुरू असतो. त्या इमेज टॅग करता आल्याने, त्यांना अलिकडे लैंगिक अत्याचार झाल्याचे दर्शवणाऱ्या मुलांवर लक्ष केंद्रित करता येण्यासोबतच, बेकायदेशीर इमेज यापुढे कोणाला दिसणार नाही यासाठी काढून टाकता येतात.

यासाठीच आमचे कर्मचारी काम करत आहेत; त्यांना त्या मुलांना मदत करायची आहे. आणखी चांगल्या प्रकारे स्वास्थ्य जपण्याच्या आणि तोच तो माहीत असलेला हानिकारक काँटेंट सारखा-सारखा पाहणे टाळण्यासाठी आमच्या कर्मचाऱ्यांच्या क्षमतेमध्ये झालेली ही आमूलाग्र सुधारणा होती.

या प्रकारच्या काँटेंटशी ऑनलाइन लढा देण्यात या कामामुळे एकूणच तंत्रज्ञान कंपन्यांना कशी मदत होते?

CSAM विरुद्ध जागतिक पातळीवरील लढ्याला पाठिंबा देण्यात मदत करण्यासाठी Google हे इतर कंपन्यांना CSAM डिटेक्शन तंत्रज्ञान पुरवत असल्याचे आपल्याला माहीत आहे आणि Hash Matching API याचादेखील NCMEC व्यतिरिक्त इतर संस्थांवर थेट परिणाम होत आहे. सर्व तंत्रज्ञान कंपन्या नॅशनल सेंटर येथील आणखी सुव्यवस्थित आणि कार्यक्षम प्रक्रियेचा फायदा घेत आहेत. CyberTipline तक्रारींची दखल घेतली जात आहे आणि त्या वक्तशीरपणे हाताळल्या जात आहेत, तसेच त्यामुळे तक्रारींच्या गुणवत्तेमध्ये आणखी सुधारणा होते आहे. जर आमच्याकडे हे टूल नसते, तर हे शक्य नव्हते.

तंत्रज्ञान कंपन्या, कायदा अंमलबजावणी, वाचवले गेलेले लोक आणि त्यांची कुटुंबे यांसाठी NCMEC हे एक केंद्रीय संसाधन आहे. समस्यांकडे आणि निराकरणांकडे पाहण्याचा आमचा दृष्टिकोन अत्यंत निराळा आहे. CyberTipline मुळे आम्हाला नवीन तयार केल्या जाणाऱ्या आणि आधीपासून ऑनलाइन शेअर केल्या जात असलेल्या CSAM ची चांगलीच कल्पना आहे. या सर्व तक्रारी कायदा अंमलबजावणीसाठी उपलब्ध केल्या जातात. या सर्व गोष्टींच्या सरतेशेवटी आपल्याला हे कधीच विसरून चालणार नाही, की लैंगिक अत्याचाराला बळी पडणारी आणि ज्यांचे शोषण केले जात आहे ती जिवंत लहान मुले आहेत.

आम्हाला ओळख पटलेली २०,००० पेक्षा जास्त लहान मुले माहीत आहेत, ज्यांच्यावर लैंगिक अत्याचार करण्यात आला असून, व्हिडिओ किंवा फोटोच्या स्वरूपामध्ये त्या अत्याचाराचा कायमस्वरूपी पुरावा तयार करण्यात आला आहे. या वाचवल्या गेलेल्या लोकांपैकी काही अजूनही अर्थातच लहान मुले आहेत आणि काही आता प्रौढ व्यक्ती आहेत व त्यांना त्यांच्यावर सतत होत असलेल्या अत्याचाराची पूर्णपणे जाणीव आहे. म्हणूनच या इमेज शेअर केल्या जाणे कमी करण्यासाठी आम्हाला शक्य असतील ती सर्व कामे करणे इतके महत्त्वाचे वाटते.

लोकांना कदाचित ही गोष्ट स्पष्टपणे माहीत नसेल, पण माहीत असलेल्या CSAM कडे दुर्लक्ष केले जाऊ शकते, कारण त्या इमेज “जुन्या” किंवा “पुन्हा शेअर केल्या गेलेल्या” मानल्या जाऊ शकतात. आम्ही लोकांना आठवण करून देण्यासाठी सतत हेच सांगत असतो, की ही जिवंत लहान मुले आहेत – त्या २०,००० पेक्षा जास्त व्यक्ती त्यांच्या त्रासातून बाहेर येऊन त्यांच्या आयुष्यांवर पुन्हा नियंत्रण मिळवण्याचा प्रयत्न करत आहेत. त्यांच्या आयुष्यातील सर्वात वाईट क्षण दर्शवणाऱ्या इमेज काढून टाकण्यासाठी Google सारख्या कंपन्या शक्य ते सर्व प्रयत्न करत आहेत, या माहितीने त्यांना बराच दिलासा मिळतो.

तुम्हाला बाल लैंगिक अत्याचाराशी संबंधित इमेज किंवा काँटेंट ऑनलाइन आढळल्यास, तुम्ही त्यांची तक्रार नॅशनल सेंटर फॉर मिसिंग अँड एक्स्प्लॉयटेड चिल्ड्रन (NCMEC) यांच्याकडे अथवा जगभरातील मान्यताप्राप्त अधिकारी यांच्याकडे करू शकता.

ऑनलाइन बाल लैंगिक अत्याचार आणि शोषण या गोष्टींशी लढा देण्यासाठी व बाल लैंगिक अत्याचाराशी संबंधित काँटेंट (CSAM) पसरवण्यासाठी आमच्या सेवा वापरल्या जाऊ नयेत यासाठी Google वचनबद्ध आहे. आमच्या प्रोटेक्टिंग चिल्ड्रन वेबसाइट वर तुम्ही याबद्दल अधिक जाणून घेऊ शकता.