Інформація і контент, яким можна довіряти

Запобігаємо порушенням

Щоб оберігати людей від неприйнятного контенту, ми використовуємо технології захисту на основі машинного навчання. Gmail щохвилини автоматично блокує близько 10 мільйонів повідомлень зі спамом, а в Пошуку є інструменти, які не допускають введення потенційно небезпечних запитів за допомогою функції автозавершення. Системи автоматичного виявлення небезпечного контенту на YouTube допомагають ефективно боротися з ним: у другому кварталі 2023 року 93% відео, видалених із цієї платформи через порушення правил, було вперше виявлено автоматично. У наших інструментах на основі генеративного ШІ також є механізми захисту, які знижують ризик створення небезпечного контенту.

Крім того, кожен наш продукт регулюється набором правил , які описують прийнятні й недопустимі зразки поведінки та контенту. Ми постійно вдосконалюємо й оновлюємо наші правила відповідно до нових безпекових реалій. Ми також спираємося на наші принципи щодо штучного інтелекту , які регулюють розробку продуктів і допомагають нам тестувати й оцінювати кожне рішення на основі ШІ перед його запуском.

Виявляємо небезпечний контент

Оскільки зловмисники постійно винаходять нові методи шахрайства, ми маємо ще ефективніше відстежувати небезпечний контент, який потрапляє в наші продукти. У цьому нам допомагає штучний інтелект. Класифікатори на основі ШІ дають змогу швидко позначати потенційно небезпечний контент, який потрібно видалити або передати на розгляд спеціалістам. У 2022 році автоматизовані системи допомогли нам виявити й заблокувати понад 51,2 млн оголошень, що містили мову ворожнечі, заклики до насильства й небезпечні для здоров’я заяви. Крім того, великі мовні моделі – революційний тип штучного інтелекту – у майбутньому можуть у рази скоротити час, необхідний для виявлення й оцінювання небезпечних матеріалів, особливо пов’язаних із новими ризиками.

Виявляти небезпечний контент нам також допомагають зовнішні організації. Компанії Google і YouTube приймають відгуки від сотень учасників Програми пріоритетних скарг – організацій з усього світу, які володіють культурним контекстом і предметними знаннями й надсилають нам контент на перевірку.

Реагуємо належним чином

Оцінювати потенційні порушення правил і вживати заходів щодо позначеного контенту нам допомагають спеціалісти, а також технології на основі ШІ. Якщо певний контент не відповідає нашим правилам, ми можемо обмежити його показ, видалити його, вимкнути його монетизацію або застосувати обмеження до облікового запису, щоб запобігти подальшим порушенням.

У 2022 році на Картах Google було заблоковано чи видалено понад 300 мільйонів неправдивих матеріалів і 115 мільйонів відгуків, що суперечили нашим правилам, а також попереджено 20 мільйонів спроб створити несправжні профілі компаній. У другому кварталі 2023 року ми видалили на YouTube понад 14 мільйонів каналів і 7 мільйонів відео, які порушували наші правила спільноти .

Щоб уникнути помилкових видалень, близько 20 000 спеціалістів оцінюють контекст, стежать за дотриманням правил, модерують контент і переглядають повідомлення про порушення в продуктах і сервісах Google.

Якщо автор або видавець вважає, що ми помилилися, він може оскаржити наше рішення.

Обмінюємося знаннями заради вашої безпеки

Ми співпрацюємо з громадськими, науковими й урядовими експертами, щоб боротися з такими глобальними викликами, як дезінформація, загроза безпеці реклами, дискредитація чесних виборів, проблеми використання ШІ в модеруванні контенту й експлуатація дітей у мережі. Крім того, ми публікуємо результати досліджень і надаємо набори даних науковцям, щоб сприяти подальшому прогресу в цій галузі.
Ми регулярно радимося з нашою незалежною Консультативною групою в справах молоді й сім’ї . Разом ми працюємо над оновленнями платформи YouTube і правил її використання, зокрема над принципами щодо контенту для дітей і підлітків , а також оновленнями , які сприяють збереженню психічного здоров’я і благополуччя підлітків.

Разом зі спеціалістами боремося з незаконним контентом

Ми також виявляємо сигнали явно неприйнятного контенту й ділимося ними з партнерами, щоб видаляти такі матеріали із ширшої екосистеми. Щороку ми передаємо Національному центру зниклих і експлуатованих дітей (NCMEC) у США мільйони хешів матеріалів із зображенням сексуального насильства над дітьми. Крім того, ми беремо участь у програмі Project Lantern, у межах якої технологічні компанії безпечно й відповідально обмінюються сигналами. Платформа YouTube є співзасновницею Глобального інтернет-форуму з протидії тероризму (GIFCT), який об’єднує спеціалістів у галузі технологій, а також урядових, громадських і наукових експертів у боротьбі з тероризмом і жорстоким екстремізмом у мережі.

Підтримуємо організації, що опікуються безпекою

Ми підтримуємо організації, які займаються питаннями медіаграмотності й безпеки в мережі в усьому світі. Ми пропонуємо їм якісні навчальні програми й матеріали, такі як "Безпека дітей в Інтернеті", "Натисніть на паузу" на YouTube і Google News Lab. Крім того, Google і YouTube оголосили про грант на 13,2 млн доларів для Міжнародної мережі перевірки фактів (IFCN), щоб підтримати 135 організацій-учасниць. Загалом у співпраці з партнерами ми допомогли понад 550 000 журналістів опанувати навички цифрової перевірки інформації, а також навчили ще 2,6 млн людей онлайн.