जानकारी और कॉन्टेंट,
जिस पर भरोसा किया जा सकता है.

Google में हमारा मकसद, समाज और लोगों को सुरक्षित हुए उन्हें जानकारी उपलब्ध कराना है. हम इस ज़िम्मेदारी को गंभीरता से लेते हैं. हमारा लक्ष्य लोगों को किसी तरह के खतरे से सुरक्षित रखते हुए, भरोसेमंद जानकारी और कॉन्टेंट उपलब्ध कराना, भरोसा करने लायक जानकारी का ऐक्सेस देना, और इंटरनेट का सुरक्षित अनुभव देने के लिए विशेषज्ञों और संगठनों के साथ पार्टनरशिप करना है.

खतरे से आपकी सुरक्षा करना भरोसेमंद जानकारी देना इंटरनेट के सुरक्षित अनुभव के लिए साझेदारी करना

खतरे से आपकी सुरक्षा करना.

बेहतर सुरक्षा की मदद से हम आपको और समाज को सुरक्षित रख पाते हैं. ये न सिर्फ़ नुकसानदेह और गैर-कानूनी कॉन्टेंट को रोकती है, बल्कि उनका पता लगाने के साथ-साथ उसके ख़िलाफ़ कार्रवाई भी करती है.

बचाव करना

गलत इस्तेमाल रोकना

बुरे बर्ताव वाले कॉन्टेंट से लोगों को सुरक्षित रखने के लिए, हम AI की मदद से काम करने वाली सुरक्षा सुविधाओं का इस्तेमाल करते हैं. Gmail हर मिनट, करीब एक करोड़ स्पैम ईमेल को इनबॉक्स में जाने से अपने-आप रोकता है और Search के पास ऐसे टूल हैं जिनसे नुकसान पहुंचाने वाली किसी क्वेरी को अपने-आप पूरा होने से रोका जाता है. नुकसान पहुंचाने वाले कॉन्टेंट की अपने-आप पहचान करने की सुविधा से, YouTube पर मौजूद इस तरह के कॉन्टेंट को बड़े स्तर पर बेहतर और असरदार तरीके से हटाने में मदद मिलती है. साल 2023 की दूसरी तिमाही में नीति का उल्लंघन करने वाले जिन वीडियो को हटाया गया है उनमें से 93% वीडियो की सबसे पहले पहचान इस सुविधा ने अपने-आप की थी. हम अपने Generative AI टूल में सुरक्षा के उपायों को लागू करते हैं. ऐसा इसलिए किया जाता है, ताकि इन टूल का इस्तेमाल करके नुकसान पहुंचाने वाला कॉन्टेंट बनाने का खतरा कम किया जा सके.

इसके अलावा, हमारे हर प्रॉडक्ट पर नीतियों का एक सेट लागू होता है. नीतियों का यह सेट, मान्य और अमान्य कॉन्टेंट के साथ-साथ मान्य-अमान्य व्यवहारों के बारे में बताता है. नए खतरों से निपटने के लिए, हमारी नीतियों को लगातार बेहतर बनाया जाता है और अपडेट किया जाता है. AI के साथ काम करने के दौरान, हम अपने AI से जुड़े सिद्धांतों का भी पालन करते हैं, ताकि हमें प्रॉडक्ट बनाने की सही दिशा मिल सके. साथ ही, हर AI ऐप्लिकेशन को लॉन्च करने से पहले उसकी जांच करने और उसका आकलन करने में मदद मिल सके.

नुकसान पहुंचाने वाले कॉन्टेंट का पता लगाना

बुरे मकसद से काम करने वाले लोग या ग्रुप हर दिन नए हथकंडे अपना रहे हैं. इसे ध्यान में रखते हुए हमें अपने प्रॉडक्ट में मौजूद नुकसान पहुंचाने वाले कॉन्टेंट का पता लगाने के लिए और मेहनत करनी होगी. हमारे प्लैटफ़ॉर्म पर नुकसान पहुंचाने वाले कॉन्टेंट का बड़े स्तर पर पता लगाने में AI हमारी मदद कर रहा है. AI की मदद से कॉन्टेंट की कैटगरी तय करने से, नुकसान पहुंचाने वाले संभावित कॉन्टेंट को फ़्लैग करने में मदद मिलती है. इससे ऐसे कॉन्टेंट को हटाने या समीक्षा करने वाले व्यक्ति तक इसकी सूचना देने में मदद मिलती है. साल 2022 में, नीति उल्लंघन को अपने-आप ठीक करने के तरीके (एनफ़ोर्समेंट) से 5.12 करोड़ ऐसे विज्ञापनों का पता लगाने और उन्हें ब्लॉक करने में मदद मिली जिनमें नफ़रत फैलाने वाली भाषा का इस्तेमाल किया गया था, हिंसा को दिखाया गया था, और स्वास्थ्य को नुकसान पहुंचाने वाले दावे किए गए थे. इसके अलावा, हमें उम्मीद है कि लार्ज लैंग्वेज मॉडल की मदद से नुकसान पहुंचाने वाले कॉन्टेंट का पता लगाने और उसका आकलन करने में लगने वाले समय को काफ़ी हद तक कम किया जा सकेगा. ये मॉडल एक तरह के ऐडवांस AI होते हैं, जो खासकर नए खतरों पर कारगर साबित हो सकते हैं.

हम Google से बाहर के उन संगठनों के साथ भी काम करते हैं जो हानिकारक कॉन्टेंट को फ़्लैग करते हैं. Google और YouTube, दोनों सैकड़ों भरोसेमंद फ़्लैगर के साथ-साथ संस्कृति और विषय-वस्तु के विशेषज्ञों वाले संगठनों से सुझाव या राय लेते हैं. ये फ़्लैगर और संगठन कॉन्टेंट की समीक्षा करने के लिए उसकी सूचना देते हैं.

कार्रवाई करना

मामले के हिसाब से कार्रवाई करना

हम नीति के संभावित उल्लंघनों का आकलन करने और फ़्लैग किए गए कॉन्टेंट पर सही तरीके से कार्रवाई करने के लिए, AI का इस्तेमाल करने वाली टेक्नोलॉजी और लोगों, दोनों की मदद लेते हैं. जब कोई कॉन्टेंट हमारी नीतियों का उल्लंघन करता है, तो हम उस कॉन्टेंट पर प्रतिबंध लगा सकते हैं, उसे हटा सकते हैं या उससे कमाई करने की सुविधा बंद कर सकते हैं. इसके अलावा, हम खाते के स्तर पर कार्रवाई कर सकते हैं, ताकि आने वाले समय में उल्लंघनों को कम किया जा सके.

साल 2022 में, Google Maps ने 30 करोड़ फ़र्ज़ी कॉन्टेंट को और नीति का उल्लंघन करने वाली 11.5 करोड़ समीक्षाओं को ब्लॉक किया या हटाया. साथ ही, ऐसे दो करोड़ मामलों को रोका है जिनमें फ़र्ज़ी Business Profiles बनाने की कोशिश की गई थी. साल 2023 की दूसरी तिमाही में, हमारे कम्यूनिटी दिशा-निर्देशों का उल्लंघन करने की वजह से, YouTube ने 1.4 करोड़ चैनल और 70 लाख वीडियो हटाए थे.

बेवजह कॉन्टेंट हटाने के खतरे को कम करने के लिए, कॉन्टेंट के कॉन्टेक्स्ट और उसकी बारीकियों का आकलन किया जाता है. इसके लिए, हम समीक्षा करने वाले करीब 20 हज़ार उपयोगकर्ताओं पर भरोसा करते हैं. ये उपयोगकर्ता, Google के सभी प्रॉडक्ट और सेवाओं पर हमारी नीतियों को लागू करने, कॉन्टेंट मॉडरेट करने, और फ़्लैग किए गए कॉन्टेंट का आकलन करने में अलग-अलग भूमिकाएं निभाते हैं.

अगर किसी क्रिएटर या पब्लिशर को लगता है कि हमने गलत फ़ैसला लिया है, तो वह उसके ख़िलाफ़ अपील कर सकता है.

भरोसेमंद जानकारी देना.

हम भरोसेमंद जानकारी देकर, अपने प्लैटफ़ॉर्म पर उपलब्ध कॉन्टेंट और जानकारी के लिए लोगों का भरोसा जीतते हैं. साथ ही, हम उन्हें बेहतरीन टूल देते हैं जिनकी मदद से वे कॉन्टेंट का आकलन कर सकते हैं.

जानकारी को व्यवस्थित करने का हमारा तरीका

इंटेलिजेंट एल्गोरिदम

हमारे लगातार अपडेट होने वाले एल्गोरिदम की वजह से हम Google Maps से लेकर Search के नतीजों जैसे अपने प्रॉडक्ट को अप-टू-डेट रख पाते हैं. ये एल्गोरिदम, ऐडवांस लार्ज लैंग्वेज मॉडल और कीवर्ड या नए वेबसाइट और कॉन्टेंट जैसे सिग्नल का इस्तेमाल करते हैं. ऐसा इसलिए, ताकि आप सबसे ज़्यादा काम के और उपयोगी नतीजे खोज पाएं. उदाहरण के लिए, YouTube अपने खोज के नतीजों, सुझावों, और जानकारी वाले पैनल में भरोसेमंद सोर्स की अच्छी क्वालिटी का कॉन्टेंट खास तौर पर दिखाता है. इससे लोगों को सही समय पर, सटीक, और उपयोगी खबर और जानकारी मिलती है.

कॉन्टेंट के आकलन में आपकी मदद करने के लिए टूल

हमारे एल्गोरिदम और Generative AI टूल की तरफ़ से दिखाए जाने वाले कॉन्टेंट को समझने और उसका आकलन करने में आपकी मदद करने के लिए, हमने कई सुविधाएं बनाई हैं. इससे यह पक्का करने में मदद मिलती है कि जिन चीज़ों को इंटरनेट पर देखा जा रहा है उनका संदर्भ आपको पता हो.

मेरा विज्ञापन केंद्र

'मेरा विज्ञापन केंद्र' से अपने विज्ञापन अनुभव को आसानी से मैनेज किया जा सकता है. इससे अपने पसंदीदा ब्रैंड के ज़्यादा से ज़्यादा विज्ञापन देखे जा सकते हैं और उन ब्रैंड के विज्ञापनों को कम किया जा सकता जो आपको पसंद नहीं हैं.
Search और News में तथ्यों की जांच

हर दिन Google, स्वतंत्र रूप से तथ्यों की 60 लाख बार जांच करता है. Google के नतीजों और तथ्यों की जांच करने वाले बेहतर टूल की मदद से, इंटरनेट पर मौजूद गलत जानकारी को बेहतर तरीके से पकड़ा जा सकता है.
इस नतीजे की जानकारी

"इस नतीजे की जानकारी" की मदद से किसी वेबसाइट पर जाने से पहले उसके बारे में जाना जा सकता है. इसमें उस वेबसाइट के ब्यौरे के साथ यह जानकारी शामिल होती है कि उसे पहली बार कब इंडेक्स किया गया था. साथ ही, यह जानकारी शामिल होती है कि दूसरी वेबसाइटें उसके सोर्स और विषय के बारे में क्या कहती हैं.
SynthID वॉटरमार्क लगाने वाला टूल

SynthID, वॉटरमार्क लगाने और एआई से बनाई गई इमेज पहचानने वाला टूल है. यह, इंटरनेट पर गलत जानकारी की गंभीर समस्या से निपटने का शुरुआती और भरोसेमंद तकनीकी समाधान है.
ज़्यादा जानें
इस इमेज की जानकारी

“इस इमेज की जानकारी” की मदद से इंटरनेट पर दिखने वाली इमेज के भरोसेमंद होने और उसके कॉन्टेक्स्ट का आकलन किया जा सकता है. इससे लोगों को कई चीज़ों के बारे में पता चलता है. जैसे, Google ने किसी इमेज को पहली बार कब देखा था और दूसरे सोर्स इसका इस्तेमाल कैसे करते हैं और इसके बारे में क्या बताते हैं.

YouTube पर ज़िम्मेदारी के साथ कॉन्टेंट मैनेज करना

YouTube का मकसद है कि वह दर्शकों, क्रिएटर्स, और विज्ञापन देने वाले लोगों या कंपनियों के लिए ऐसा ज़िम्मेदार प्लैटफ़ॉर्म बनाए जिस पर वे भरोसा कर सकें.
हमारे काम करने के तरीके के बारे में ज़्यादा जानें.

कॉन्टेंट हटाना

हम ऐसा कॉन्टेंट हटा देते हैं जो हमारी नीतियों का उल्लंघन करता है. इसके लिए हम लोगों और टेक्नोलॉजी, दोनों का सहारा लेते हैं.
सही कॉन्टेंट को बढ़ावा देना

हम जानकारी देने और खबरें दिखाने के लिए भरोसेमंद सोर्स को बढ़ावा देते हैं. साथ ही, दर्शकों के लिए ज़्यादा जानकारी उपलब्ध कराते हैं.
गलत जानकारी को फैलने से रोकना

गलत जानकारी और हमारी नीतियों का करीब-करीब उल्लंघन करने वाले कॉन्टेंट की पहुंच लोगों तक कम करके, हम ज़िम्मेदार तरीके से कॉन्टेंट मैनेज करते हैं.
क्रिएटर्स को इनाम देना

साथ ही, हम भरोसेमंद कॉन्टेंट बनाने वाले क्रिएटर्स को YouTube Partner Program (YPP), विज्ञापन से मिलने वाले रेवेन्यू, और कमाई करने के कई अन्य सोर्स के ज़रिए इनाम देते हैं. जून 2022 से पहले के तीन सालों में, YouTube ने क्रिएटर्स, कलाकारों, और मीडिया कंपनियों को 5,000 करोड़ डॉलर से ज़्यादा का पेमेंट किया है.

इंटरनेट के सुरक्षित अनुभव के लिए साझेदारी करना.

हम विशेषज्ञों और संगठनों के साथ मिलकर काम करते हैं, उन्हें सूचना देते हैं, और उनके साथ अपनी टेक्नोलॉजी और संसाधनों को शेयर करते हैं.

जानकारी शेयर करना

आपको सुरक्षित रखने के लिए जानकारी शेयर करना

गलत जानकारी, विज्ञापन से जुड़ी सुरक्षा, चुनाव में भरोसेमंद और सही जानकारी देने की नीति का उल्लंघन, कॉन्टेंट मॉडरेशन के लिए AI का इस्तेमाल, और इंटरनेट पर बच्चों के शोषण की रोकथाम जैसी वैश्विक समस्याओं से निपटने के लिए, हमने सरकारों, सिविल सोसाइटी, और शिक्षा के क्षेत्र से जुड़े लोगों या संस्थाओं के साथ साझेदारी की है. हम शिक्षा के क्षेत्र से जुड़े लोगों या संस्थाओं के लिए, शोध के नतीजों को पब्लिश करते हैं और डेटासेट को रिलीज़ भी करते हैं. इससे उन्हें अपने क्षेत्र में आगे बढ़ने में मदद मिलती है.

YouTube में हम, प्रॉडक्ट और नीति के अपडेट के लिए युवाओं और परिवारों के लिए बनाई गई एडवाइज़री कमिटी से लगातार सलाह लेते हैं. इस कमिटी के साथ कई स्वतंत्र विशेषज्ञ जुड़े हुए हैं. इसमें युवाओं से जुड़े हमारे सिद्धातों और किशोरों के मानसिक स्वास्थ्य और सेहत को ध्यान में रखकर बनाए गए प्रॉडक्ट के कई अपडेट भी शामिल होते हैं.

सिग्नल शेयर करना

गैर-कानूनी कॉन्टेंट के ख़िलाफ़ विशेषज्ञों के साथ मिलकर काम करना

नीति का साफ़ तौर पर उल्लंघन करने वाले कॉन्टेंट से जुड़े सिग्नल का पता लगाने और उन्हें शेयर करने के लिए, हम अपने पार्टनर के साथ भी काम करते हैं. ऐसा इसलिए किया जाता है, ताकि उस कॉन्टेंट को ज़्यादा से ज़्यादा जगहों से हटाया जा सके. हम हर साल, यूएस नैशनल सेंटर फ़ॉर मिसिंग ऐंड एक्सप्लॉइटेड चिल्ड्रन (एनसीएमईसी) के साथ करोड़ों सीएसएएम हैश शेयर करते हैं. हम प्रोजेक्ट Lantern में हिस्सा भी लेते हैं. यह एक ऐसा प्रोग्राम है जिसके तहत टेक्नोलॉजी के क्षेत्र में काम करने वाली कंपनियां, सुरक्षित और ज़िम्मेदार तरीके से सिग्नल शेयर करती हैं. इसके अलावा YouTube, ग्लोबल इंटरनेट फ़ोरम टू काउंटर टेररिज़म (जीआईएफ़सीटी) का को-फ़ाउंडर है. यह संगठन, इंटरनेट पर आतंकवादी और हिंसक चरमपंथी गतिविधियों के ख़िलाफ़, टेक्नोलॉजी इंडस्ट्री, सरकार, सिविल सोसाइटी, और शिक्षा के क्षेत्र से जुड़े लोगों या संस्थाओं को एक साथ लाता है.

संसाधन शेयर करना

ऑनलाइन सुरक्षा के लिए काम करने वाले संगठनों की मदद करना

हम ऑनलाइन सुरक्षा के लिए काम करने वाले दुनिया भर के संगठनों की मदद करते हैं और ऑनलाइन कॉन्टेंट के सही या गलत होने का पता लगाते हैं. ऐसा, हम ट्रेनिंग और संसाधन उपलब्ध कराने वाले बेहतरीन प्रोग्राम की मदद से करते हैं. इन प्रोग्राम में, Be Internet Awesome, YouTube का Hit Pause, और Google News Lab शामिल हैं. इसके अलावा, Google और YouTube ने इंटरनैशनल फ़ैक्ट-चेकिंग नेटवर्क (आईएफ़सीएन) को 1.32 करोड़ डॉलर का अनुदान देने का एलान किया है. ऐसा इसलिए, ताकि यह संगठन तथ्यों की जांच करने वाले 135 संगठनों के अपने नेटवर्क की मदद कर सके. हमारे साथ मिलकर काम करने की वजह से, 5.5 लाख पत्रकारों ने डिजिटल तरीके से तथ्यों की जांच करने का कौशल सीखा. साथ ही, हमने 26 लाख पत्रकारों को ऑनलाइन ट्रेनिंग दी.

Child Safety Toolkit

हम Adobe और Reddit जैसे पार्टनर को अपने टूल, Content safety API, और CSAI Match का ऐक्सेस देते हैं. इनकी मदद से हमारे पार्टनर, बच्चों का यौन शोषण दिखाने वाले कॉन्टेंट (CSAM) की मानवीय समीक्षा को प्राथमिकता दे पाते हैं. इन टूल से हमारे पार्टनर, हर महीने कॉन्टेंट के 400 करोड़ बैच प्रोसेस कर पाते हैं. इससे उन्हें इंटरनेट पर बच्चों के यौन शोषण के ख़िलाफ़ बेहतर तरीके से लड़ने में मदद मिलती है.
ज़्यादा जानें
Safebrowsing API

हमारा Safebrowsing API, क्लाइंट ऐप्लिकेशन को यह अनुमति देता है कि वे असुरक्षित वेब रिसोर्स की लगातार अपडेट होने वाली सूची में URLs की जांच करते रहें. यह टूल हर दिन 500 करोड़ डिवाइसों की सुरक्षा करता है. इसके लिए यह टूल, लोगों को उन साइटों के ख़िलाफ़ चेतावनी देता है जो मैलवेयर या अनचाहे सॉफ़्टवेयर को होस्ट करती हैं.
ज़्यादा जानें
Information Quality APIs

Information Quality API से पब्लिशर और प्लैटफ़ॉर्म को हानिकारक और नुकसान पहुंचाने वाले कॉन्टेंट से लड़ने में मदद में मिलती है. Perspective API, हर दिन 200 करोड़ टिप्पणियों को प्रोसेस करता है. इससे हर दिन 850 से ज़्यादा पार्टनर को नफ़रत फ़ैलाने वाली टिप्पणियों को रोकने में मदद मिलती है. Perspective API का इस्तेमाल The New York Times, Reddit, और Wall Street Journal जैसे संगठन करते हैं. इससे उन्हें अपनी साइटों पर भद्दी टिप्पणियों को मैनेज करने में मदद मिलती है.
Vision API

हमारे Vision API की मदद से डेवलपर को नुकसान पहुंचाने वाले कॉन्टेंट का पता लगाने और उन्हें हटाने में मदद मिलती है. इस API की मदद से डेवलपर, अपने ऐप्लिकेशन में इमेज लेबल किए जाने, ऑप्टिकल कैरेक्टर रिकग्निशन (OCR), और अश्लील कॉन्टेंट को टैग किए जाने का पता लगाने जैसी सुविधाएं जोड़ सकते हैं. सीमित ट्रेनिंग डेटा के साथ Vision API, 80% इमेज की कैटगरी तय कर सकता है.

GSEC डबलिन

डबलिन में गैर-कानूनी और नुकसान पहुंचाने वाले कॉन्टेंट को फैलने से रोकने की ज़िम्मेदारी संभालना

कॉन्टेंट की ज़िम्मेदारी के लिए बना हमारा Google Safety Engineering Center डबलिन में है. यह Google विशेषज्ञों का एक क्षेत्रीय हब है, जो गैर-कानूनी और नुकसान पहुंचाने वाले कॉन्टेंट को फैलने से रोकने का काम करता है. साथ ही, यहां हम अपने इस काम को नीति बनाने वाले, रिसर्च करने वाले, और कानून बनाने वाले लोगों के साथ शेयर कर सकते हैं. Google Safety Engineering Centers का हमारा नेटवर्क अगली-पीढ़ी की टेक्नोलॉजी बनाने के लिए, हमारी टीमों को प्रेरणा देता है, उन्हें काम करने की जगह देता है, और उनकी मदद करता है, ताकि ऑनलाइन सुरक्षा को बेहतर बनाया जा सके.

इंटरनेट पर सुरक्षित और मददगार अनुभव देने के लिहाज़ से प्रॉडक्ट डिज़ाइन करना.

भरोसेमंद जानकारी और कॉन्टेंट उपलब्ध कराने का हमारा काम पहले कभी इतना मायने नहीं रखता था. कॉन्टेंट मॉडरेट करने की चुनौतियों से निपटने के लिए, हम अपनी नीतियों, प्रॉडक्ट, और प्रोसेस को बेहतर बनाना जारी रखेंगे, ताकि आपको किसी तरह की परेशानी न हो. साथ ही, सभी को इंटरनेट पर सुरक्षित अनुभव मिलता रहे.