מידע ותוכן
שאפשר להסתמך עליהם
ב-Google אנחנו שואפים לאזן בין עזרה במציאת מידע לבין הגנה על המשתמשים והחברה. אנחנו מתייחסים ברצינות לאחריות הזו. המטרה שלנו היא לתת גישה למידע ולתוכן מהימנים, ואנחנו מגינים על המשתמשים מפני תוכן מזיק, מספקים מידע מהימן ופועלים בשיתוף עם מומחים וארגונים כדי לשפר את רמת הבטיחות באינטרנט.
אנחנו מגינים עליכםמתוכן מזיק
מונעים התנהלות פוגעת
אנחנו משתמשים בכלים מבוססי למידת מכונה כדי לצמצם חשיפה לתוכן פוגעני. ב-Gmail אנחנו חוסמים באופן אוטומטי כמעט 10 מיליון הודעות ספאם כל דקה כדי שלא יגיעו לתיבות הדואר הנכנס, ובהשלמה האוטומטית בחיפוש Google יש כלים שחוסמים הצעות של שאילתות שיכולות להיות מזיקות. ב-YouTube אנחנו נעזרים באמצעי זיהוי אוטומטיים כדי להסיר כמויות גדולות של תוכן פוגעני ביעילות: ברבעון השני של 2023, 93% מהסרטונים שהוסרו מ-YouTube בגלל הפרת מדיניות זוהו בכלים אוטומטיים. אנחנו גם מטמיעים בכלי ה-AI הגנרטיבי שלנו אמצעי הגנה שמפחיתים את הסיכוי שישתמשו בהם כדי ליצור תוכן פוגעני.
בנוסף, כל אחד מהמוצרים שלנו כפוף ל קבוצה של כללי מדיניות שעוסקים בתוכן ובהתנהגות ומפרטים מה מקובל ומה לא. אנחנו כל הזמן מחדדים ומעדכנים את כללי המדיניות בהתאם לסיכונים חדשים. בתחום ה-AI אנחנו פועלים גם בהתאם ל עקרונות ה-AI שלנו, שמנחים אותנו בפיתוח מוצרים ועוזרים לנו לבדוק ולהעריך כל מוצר AI לפני ההשקה.
מזהים תוכן פוגעני
השיטות של גורמים זדוניים משתכללות, ואנחנו צריכים להשקיע יותר מאמצים כדי לזהות תוכן פוגעני שמחדירים למוצרים שלנו. AI עוזר לנו לזהות יותר ביעילות התנהלות פוגעת בכל הפלטפורמות שלנו. מסווגים מבוססי-AI מזהים במהירות תוכן שיכול להיות פוגעני ומסמנים אם צריך להסיר אותו או להעביר אותו לבודק אנושי. בשנת 2022, אמצעי אכיפה אוטומטיים עזרו לנו לזהות ולחסום יותר מ-51.2 מיליון מודעות שכללו דברי שטנה, תוכן אלים והצהרות מזיקות בנושא בריאות. אנחנו נעזרים גם במודלים גדולים של שפה (LLM), שהם סוג חדשני של טכנולוגיית AI, ובזכותם הזמן שנדרש לזהות ולבחון חומר מזיק יכול להתקצר משמעותית ‒ במיוחד כשמדובר בסיכונים חדשים שרק מתחילים להשפיע על המערכת.
אנחנו גם עובדים עם ארגונים חיצוניים שמסמנים לבדיקה תוכן שעלול להזיק. ב-Google וגם ב-YouTube אוספים נתוני משוב ממאות משתתפים בתוכנית Priority Flagger – אלה ארגונים ברחבי העולם שבהם יש מומחים לענייני תרבות ובעוד מגוון תחומים, שמעבירים לנו תוכן לבדיקה.
מגיבים בצורה מתאימה
בעזרת בודקים אנושיים וטכנולוגיות מבוססות-AI, אנחנו מבצעים הערכות לגבי הפרות מדיניות אפשריות ומגיבים בהתאם לתוכן שמדווח. כשקטע תוכן מפר את המדיניות שלנו, אנחנו יכולים להגביל או להסיר אותו, ולבטל את המונטיזציה או לבצע פעולות ברמת החשבון כדי לצמצם מקרים של התנהלות פוגעת בעתיד.
בשנת 2022, חסמנו או הסרנו במפות Google יותר מ-300 מיליון קטעי תוכן מזויף ו-115 מיליון ביקורות שהפרו את המדיניות, ומנענו 20 מיליון ניסיונות ליצור פרופילים מזויפים של עסקים. ברבעון השני של 2023, הוסרו מ-YouTube יותר מ-14 מיליון ערוצים ו-7 מיליון סרטונים בגלל הפרות של הנחיות הקהילה .
כדי לבחון הקשר ופרטים קטנים, וגם להפחית את הסיכוי להסרת-יתר של תוכן, אנחנו מסתמכים על כ-20,000 בודקים אנושיים שהוכשרו לעבוד במגוון תפקידים, והם אוכפים את כללי המדיניות שלנו, וגם מנהלים תוכן ובודקים דיווחים שקיבלנו דרך המוצרים והשירותים של Google.
יוצרים או מפרסמים שחושבים שקיבלנו החלטה שגויה יכולים לערער על ההחלטה.
מספקים מידע
מהימן
אלגוריתמים חכמים
כלים שיעזרו לכם להעריך את מהימנות התוכן
בדיקת עובדות בחיפוש Google ובחדשות Google
כל יום מוצגים ב-Google 6 מיליון פעמים נתונים מבדיקות בלתי תלויות של עובדות. עם הכלים המתקדמים של Google לבדיקת עובדות בתמונות ותוצאות, קל יותר לזהות מידע מוטעה באינטרנט.
מידע על התוצאה הזו
ב"מידע על התוצאה הזו" אפשר לראות פרטים על אתר לפני שמבקרים בו, כולל התיאור שלו, מתי הוא התווסף לאינדקס בפעם הראשונה ומה אחרים אומרים על המקור והנושא שלו.
SynthID לסימני מים
SynthID הוא כלי להוספת סימני מים לתמונות שנוצרו על ידי AI ולזיהוי תמונות כאלה. זה פתרון טכני מבטיח, בשלבי פיתוח מוקדמים, לבעיה הדחופה של מידע מוטעה באינטרנט.
מידע על התמונה הזו
עם "מידע על התמונה הזו", אפשר להעריך את רמת המהימנות של תמונות שרואים באינטרנט ולקבל מידע על ההקשר שלהן, לדוגמה: מתי המערכות של Google סרקו תמונה כלשהי בפעם הראשונה ואיך מקורות אחרים משתמשים בתמונה ומתארים אותה.
מרכז המודעות שלי
ב"מרכז המודעות שלי" קל לנהל את חוויית הצפייה במודעות וככה לראות יותר מותגים שמעניינים אתכם ופחות מותגים שלא.
ניהול אחראי
של תוכן ב-YouTube
בודקים אנושיים וכלים טכנולוגיים עוברים על התוכן ומסירים אותו אם הוא מפר את המדיניות שלנו.
אנחנו מקדמים מקורות מוסמכים של חדשות ומידע, ונותנים לצופים הקשר לגבי התוכן.
כדי לנהל תוכן בצורה אחראית, אנחנו מצמצמים הפצה של תוכן גבולי ומידע מוטעה ומזיק.
כדי לתגמל יוצרים מהימנים דרך תוכנית השותפים של YouTube (YPP), אנחנו מחלקים הכנסות מפרסום וממגוון מקורות הכנסה אחרים. ב-3 השנים שהסתיימו ביוני 2022 שילמנו דרך YPP יותר מ-50 מיליארד דולר ליוצרים, לאומנים ולחברות מדיה.
שיתופי פעולה שמשפרים
את הבטיחות באינטרנט
משתפים מידע ומגינים עליכם
אנחנו עובדים בשיתוף עם מומחים מארגונים אזרחיים, וממוסדות אקדמיים וממשלתיים כדי לטפל בבעיות גלובליות כמו מידע מוטעה, בטיחות בפרסום, תקינות בתהליכי בחירות, AI בניהול תוכן, ומאבק בתופעה של ניצול ילדים באינטרנט. אנחנו גם מפרסמים ממצאי מחקרים וקבוצות נתונים לטובת מוסדות אקדמיים כדי שנוכל להמשיך להתקדם בתחום הזה.
ב-YouTube אנחנו מתייעצים באופן קבוע עם הוועדה המייעצת העצמאית שלנו בנושא תכנים לילדים ולכל המשפחה . הם מייעצים לנו לגבי עדכוני מוצרים ומדיניות, כולל העקרונות שלנו לסביבה בטוחה לקטינים וסדרה של עדכוני מוצרים שמיועדים לקדם בריאות נפשית ואיכות חיים בקרב בני נוער.
משתפים פעולה עם מומחים כדי להילחם בפרסום תוכן לא חוקי
אנחנו גם עובדים עם שותפים כדי לזהות ולשתף אותות ברורים שמצביעים על תוכן פוגעני, ואז להסיר אותו מהסביבה הכוללת. כל שנה אנחנו משתפים עם National Center for Missing and Exploited Children בארה"ב מיליוני פריטי מידע על סרטונים שהוסרו בגלל זיהוי CSAM. אנחנו גם משתתפים ב-Project Lantern, תוכנית שמאפשרת לחברות טכנולוגיה לשתף אותות באופן בטוח ובצורה אחראית. בנוסף, ב-YouTube ייסדנו את פורום האינטרנט הגלובלי למלחמה בטרור (GIFCT), בשיתוף עם גורמים אחרים מהתחום. בפורום הזה, חברות טכנולוגיה, גורמים ממשלתיים ואזרחיים ונציגים מהאקדמיה עובדים יחד כדי להילחם בפעילות טרור ובפעילות אלימה וקיצונית באינטרנט.
תומכים בארגונים שמקדמים בטיחות
אנחנו תומכים במגוון ארגונים בעולם שהוקמו כדי לקדם בטיחות באינטרנט ואוריינות מדיה. אלה ארגונים כמו "גדולים באינטרנט", תוכנית Hit Pause של YouTube ו-Google News Lab, שמפתחים תוכניות לימוד יעילות בנושאים האלה, שמבוססות על חומרי הדרכה ומקורות מידע. Google ו-YouTube גם הכריזו שישולם מענק בסך 13.2 מיליון דולר לרשת הבינלאומית לבדיקת עובדות (International Fact-Checking Network, IFCN), שחברים בה 135 ארגונים שעוסקים בתחום. בסך הכול, בזכות שיתופי הפעולה שיצרנו, יותר מ-550,000 עיתונאים רכשו מיומנויות לאימות מקורות בדיגיטל, והעברנו הדרכות באינטרנט לעוד 2.6 מיליון עיתונאים .
אנחנו משתפים באופן פעיל
טכנולוגיה להגנה על הבטיחות
ערכת כלים לשמירה על בטיחות של ילדים
אנחנו נותנים לשותפים כמו Adobe ו-Reddit גישה לכלים שלנו, Content Safety API ו-CSAI Match, שעוזרים לתעדף לבדיקה אנושית תוכן ויזואלי של התעללות מינית בילדים (CSAM). בעזרת הכלים האלה השותפים שלנו מעבדים יותר מ-4 מיליארד קטעי תוכן כל חודש, וכך הם נלחמים בצורה יעילה יותר בהתעללות מינית בילדים באינטרנט.
Safe Browsing API
Safe Browsing API מאפשר לאפליקציות לקוח לבדוק אם כתובות URL נכללות ברשימות של משאבי אינטרנט לא בטוחים שאנחנו מעדכנים באופן שוטף. כך הכלי הזה מגן על 5 מיליארד מכשירים ביום: המערכת מציגה אזהרה למשתמשים לגבי אתרים שמארחים תוכנות זדוניות או תוכנות לא רצויות.
ממשקי API לאיכות מידע
ממשקי ה-API שלנו לאיכות מידע עוזרים לבעלי תוכן דיגיטלי ולבעלי פלטפורמות להילחם בפרסום של תוכן מזיק ופוגעני. Perspective API מעבד כל יום 2 מיליארד תגובות ועוזר ליותר מ-850 שותפים למנוע הצגה של תגובות מזיקות בכל יום. דוגמאות לארגונים שמשתמשים ב-Perspective API לניהול תגובות פוגעניות באתרים שלהם: New York Times, Reddit ו-Wall Street Journal.
Vision API
עם ממשק Vision API שאנחנו מציעים, מפתחים יכולים לזהות ולהסיר תוכן פוגעני. הממשק מאפשר לשלב באפליקציות שלהם פיצ'רים כמו הוספת תוויות לתמונות, זיהוי תווים אופטי (OCR) ותיוג של תוכן בוטה. ל-Vision API נדרש רק אימון קצר, ואחר כך הוא יכול לסווג בהצלחה 80% מהתמונות.
התנהלות אחראית בתחום התוכן: המשימה שלנו בדבלין
חוויית אינטרנט מועילה ובטוחה יותר
— כבר מההתחלה
