معلومات موثوقة ومحتوى

جدير بالثقة

منع المحتوى المسيء

لحماية المستخدمين من المحتوى المسيء، نستخدم أساليب تستند إلى الذكاء الاصطناعي. على سبيل المثال، يحظر Gmail تلقائيًا ما يصل إلى 10 مليون رسالة إلكترونية غير مرغوب فيها كل دقيقة، كما يوفّر "بحث Google" أدوات لمنع ميزة "الإكمال التلقائي" من اقتراح طلبات بحث يُحتمَل أن تكون ضارّة. ويتيح الرصد التلقائي في YouTube إزالة المحتوى الضارّ بكفاءة وفعالية وعلى نطاق واسع. في الربع الثاني من عام 2023، تم تلقائيًا رصد ما يصل إلى %93 من الفيديوهات المخالفة للسياسة وأُزيلت بالتالي من YouTube. نطبِّق أيضًا إجراءات وقائية على أدواتنا المستنِدة إلى الذكاء الاصطناعي التوليدي للحدّ من مخاطر استخدامها في إنشاء محتوى ضارّ.

بالإضافة إلى ذلك، تخضع منتجاتنا لمتطلبات مجموعة من السياسات التي توضّح المحتوى والسلوك المقبولَين وغير المقبولَين. ويتم تطوير سياساتنا وتعديلها باستمرار لمواجهة المخاطر الطارئة. نعتمد أيضًا على مبادئ الذكاء الاصطناعي لتوجيه عملية تطوير المنتجات ومساعدتنا في اختبار وتقييم جميع تطبيقات الذكاء الاصطناعي قبل إطلاقها.

رصد المحتوى الضارّ

تتطوّر أساليب الجهات المسيئة باستمرار، ما يفرض علينا بذل جهود إضافية لرصد المحتوى الضارّ الذي يتسلل إلى منتجاتنا. ويساعدنا الذكاء الاصطناعي في تعزيز قدراتنا على رصد حالات إساءة الاستخدام على مختلف منصّاتنا. على سبيل المثال، تساعدنا المصنِّفات المستندة إلى الذكاء الاصطناعي في الإبلاغ بسرعة عن المحتوى الذي يُحتمل أن يكون ضارًا كي تتم إزالته أو تصعيده إلى فريق المراجعين. في عام 2022، ساعَدنا التنفيذ الآلي للسياسات في رصد وحظر أكثر من 51.2 مليون إعلان يتضمّن كلامًا يحضّ على الكراهية والعنف وادّعاءات ضارّة تتعلّق بالصحة. بالإضافة إلى ذلك، حقَّقت النماذج اللغوية الكبيرة، وهي نوع مبتكر من الذكاء الاصطناعي، نتائج واعِدة في تقليل الوقت المُستغرَق لرصد المواد الضارّة وتقييمها، وخاصةً في ما يتعلّق بالمخاطر الجديدة والطارئة.

نتعاون أيضًا مع مؤسسات خارجية تُبلِغ عن المحتوى الذي تعتقد أنّه قد يكون ضارًا. وتتلقّى كلّ من Google وYouTube ملاحظات وآراء من مئات المؤسسات حول العالم التي تؤدي دور المُخبرين الأساسيين، وذلك في ضوء خبرتها الثقافية التي تؤهّلها للإبلاغ عن المحتوى غير الملائم.

اتّخاذ الإجراءات المناسبة

نعتمد على كلّ من فريق المراجعين لدينا والتكنولوجيا المستندة إلى الذكاء الاصطناعي لتقييم انتهاكات السياسة المحتمَلة واتّخاذ الإجراء الملائم بشأن المحتوى الذي يتم الإبلاغ عنه. عندما ينتهك محتوى معيّن سياساتنا، يمكننا اتّخاذ إجراءات، مثل حظر المحتوى أو إزالته أو إلغاء إمكانية تحقيق الربح منه، وقد نتّخذ إجراءات على مستوى حساب ناشر المحتوى لتقليل حالات إساءة الاستخدام في المستقبل.

في عام 2022، حظر فريق "خرائط Google" وأزال أكثر من 300 مليون محتوى مزيّف، و115 مليون مراجعة منتهكة للسياسة، و20 مليون محاولة لإنشاء ملفات تجارية مزيّفة. وفي الربع الثاني من عام 2023، أزال فريق YouTube أكثر من 14 مليون قناة و7 ملايين فيديو بسبب مخالفة إرشادات المنتدى.

لتقييم السياق والفوارق البسيطة عند المراجعة، مع تجنُّب المبالغة في إزالة المحتوى، نعتمد على ما يصل إلى 20 ألف مراجع مُدرَّب بشكلٍ احترافي لأداء مهام متنوّعة، مثل تطبيق السياسات والإشراف على المحتوى وتقييم المحتوى الذي يتم الإبلاغ عنه، في مختلف منتجات Google وخدماتها.

إذا رأى صانع محتوى أو ناشر أنّنا اتّخذنا قرارًا خاطئًا، يمكنه طلب إعادة النظر في قرارنا.