الكلمة الموثوقة هي الأساس

نحظر المحتوى المسيء

نستخدم أساليب تستند إلى تعلُّم الآلة لحماية المستخدمين من أي محتوى مسيء. على سبيل المثال، يحظر Gmail تلقائيًا وكل دقيقة حوالى 10 مليون رسالة إلكترونية غير مرغوب فيها، كما يستخدم "بحث Google" أدوات لمنع ميزة "الإكمال التلقائي" من اقتراح طلبات بحث قد تكون ضارّة. أمّا YouTube، فهو يرصد تلقائيًا المحتوى الضار ويزيله بكفاءة وفعالية وعلى نطاق واسع. ففي الربع الثاني من عام 2023، تم تلقائيًا رصد %93 من الفيديوهات المخالفة لسياساتنا وبالتالي أُزيلت من YouTube. نطبِّق أيضًا إجراءات وقائية على أدوات الذكاء الاصطناعي التوليدي للحدّ من مخاطر استخدامها في إنشاء محتوى ضارّ.

بالإضافة إلى ذلك، تلتزم منتجاتنا بمجموعة من السياسات التي توضّح ما هو مقبول وما هو مرفوض من حيث المحتوى والسلوك. وتخضع سياساتنا لتعديلات مستمرة بغرض مواجهة المخاطر الطارئة. نعتمد أيضًا على مبادئ الذكاء الاصطناعي لتوجيه عملية تطوير المنتجات ومساعدتنا في اختبار وتقييم جميع تطبيقات الذكاء الاصطناعي قبل أن نطلقها.

نكشف المحتوى الضارّ

تتطوّر أساليب الجهات المسيئة باستمرار، ما يفرض علينا بذل جهود إضافية لرصد أي محتوى ضارّ قبل أن يتسلل إلى منتجاتنا. ويساعدنا الذكاء الاصطناعي في تعزيز قدراتنا على رصد حالات إساءة الاستخدام على مختلف منصّاتنا. على سبيل المثال، تساعدنا المصنِّفات المستندة إلى الذكاء الاصطناعي في الإبلاغ بسرعة عن المحتوى الذي يُحتمل أن يكون ضارًا كي تتم إزالته أو تصعيده إلى فريق المراجعين. وفي عام 2022، ساعَدنا التنفيذ الآلي للسياسات في رصد وحظر أكثر من 51.2 مليون إعلان يتضمّن كلامًا يحضّ على الكراهية وعنفًا وادّعاءات ضارّة تتعلّق بالصحة. بالإضافة إلى ذلك، حقّقت النماذج اللغوية الكبيرة، وهي نوع مبتكر من الذكاء الاصطناعي، نتائج واعِدة في تقليل الوقت المُستغرَق لرصد المواد الضارّة وتقييمها، وخاصةً في ما يتعلّق بالمخاطر الجديدة والطارئة.

نتعاون أيضًا مع مؤسسات خارجية تُبلِغ عن المحتوى الذي تعتقد أنّه قد يكون ضارًا. وتتلقّى كلّ من Google وYouTube ملاحظات من مئات المؤسسات حول العالم التي تؤدي دور المُخبرين الأساسيين الذين لديهم الخبرة الثقافية اللازمة لإبلاغنا بالمحتوى غير الملائم حتى نتمكن من مراجعته.

نتّخذ الإجراءات المناسبة

نعتمد على كلّ من فريق المراجعين لدينا والتكنولوجيا المستندة إلى الذكاء الاصطناعي لتقييم انتهاكات السياسة المحتمَلة واتّخاذ الإجراء الملائم بشأن المحتوى الذي يتم الإبلاغ عنه. فعندما ينتهك محتوى معيّن سياساتنا، يمكننا حظره أو إزالته أو إلغاء إمكانية تحقيق الربح منه، وقد نتّخذ إجراءات على مستوى حساب ناشر المحتوى لتقليل حالات إساءة الاستخدام في المستقبل.

في عام 2022، حظر فريق "خرائط Google" أو أزال أكثر من 300 مليون عنصر محتوى مزيف، و115 مليون مراجعة تخالف السياسات، و20 مليون محاولة لإنشاء ملفات تجارية مزيّفة. وفي الربع الثاني من عام 2023، أزال YouTube أكثر من 14 مليون قناة و7 مليون فيديو بسبب مخالفة إرشادات المنتدى .

لتقييم السياق والفروق الدقيقة وتجنّب المبالغة في إزالة المحتوى، نعتمد على 20 ألف مراجع تقريبًا من ذوي الخبرات والمدرَّبين على أداء أدوار متنوعة، لفرض سياساتنا والإشراف على المحتوى وتقييم البلاغات التي تصلنا بشأنه في منتجات وخدمات Google.

إذا رأى أحد صنّاع المحتوى أو الناشرين أنّنا اتّخذنا قرارًا خاطئًا، يمكنه طلب إعادة النظر في قرارنا.

نتبادل المعرفة مع الآخرين للحفاظ على أمانك

نتعاون مع خبراء على المستوى المدني والأكاديمي والحكومي لمعالجة مسائل عالمية، مثل المعلومات الخاطئة، وأمان الإعلانات، ونزاهة الانتخابات، ودور الذكاء الاصطناعي في الإشراف على المحتوى، ومكافحة استغلال الأطفال على الإنترنت. وننشر أيضًا نتائج الأبحاث ونطرح مجموعات بيانات يستفيد منها الأكاديميون لدفع عجلة التقدّم في هذا المجال.

في YouTube، نتشاور دائمًا مع لجنتنا الاستشارية المستقلة للشباب والعائلات بشأن تحديثات المنتجات أو تعديل السياسات، بما في ذلك مبادئ المحتوى المناسب للقاصرين ، وسلاسل تحديثات المنتجات التي تهدف إلى الحفاظ على الصحة النفسية للمراهقين وعافيتهم.

نتعاون مع خبراء لمكافحة المحتوى غير القانوني

نعمل أيضًا مع شركائنا للكشف عن الإشارات التي تدلّ بوضوح على وجود محتوى مسيء ونشاركها لتسهيل إزالة هذا المحتوى من الإنترنت ككل. على سبيل المثال، نشارك كل عام الملايين من علامات التجزئة الخاصة بمواد الاعتداء الجنسي على الأطفال مع "المركز الوطني للأطفال المفقودين والمستغَلين" في الولايات المتحدة. ونشارك أيضًا في Project Lantern، وهو برنامج يتيح لشركات التكنولوجيا مشاركة الإشارات بطريقة آمنة ومسؤولة. بالإضافة إلى ذلك، ساهم YouTube في تأسيس "منتدى الإنترنت العالمي لمكافحة الإرهاب" (GIFCT)، الذي يضم أعضاء من مجال التكنولوجيا والقطاعات الحكومية والمجتمعات المدنية والهيئات الأكاديمية، ويهدف إلى التصدّي للأنشطة التي تدعو إلى العنف والتطرُّف على الإنترنت.

ندعم المؤسسات المعنيّة بتعزيز الأمان

نساعد في جميع أنحاء العالم المؤسسات التي تسعى لتعزيز الوعي الإعلامي والأمان على الإنترنت، ونقدّم لها برامج تدريبية ومواد تعليمية فعّالة، مثل "أبطال الإنترنت"، و"توقّف وتعلّم" على YouTube، وGoogle News Lab. بالإضافة إلى ذلك، أعلنت كلّ من Google وYouTube عن تقديم منحة بقيمة 13.2 مليون دولار أمريكي لدعم "شبكة التحقُّق من صحة الأخبار العالمية" (IFCN) التي تضم 135 مؤسسة تتحقق من صحة الأخبار. وفي المجمل، ساهمنا في تزويد أكثر من 550 ألف صحفي بالمهارات الرقمية اللازمة للتحقُّق من صحّة الأخبار، كما درَّبنا 2.6 مليون صحفي آخر على الإنترنت.