Thông tin và nội dung đáng tin cậy

Ngăn chặn hành vi sai trái

Để bảo vệ mọi người trước nội dung vi phạm, chúng tôi áp dụng những biện pháp bảo vệ dựa trên công nghệ học máy. Mỗi phút, Gmail tự động chặn gần 10 triệu thư rác khỏi hộp thư đến của người dùng, còn Google Tìm kiếm thì lại có những công cụ ngăn tính năng Tự động hoàn thành đề xuất cụm từ tìm kiếm có khả năng gây hại. Tính năng tự động phát hiện giúp YouTube gỡ bỏ nội dung gây hại một cách hiệu quả trên quy mô lớn. Điển hình là quý 2 năm 2023, có 93% video vi phạm chính sách bị gỡ bỏ khỏi YouTube là những video mà ban đầu chúng tôi tự động phát hiện được. Chúng tôi cũng triển khai những "hàng rào bảo vệ" trong các công cụ AI tạo sinh nhằm giảm thiểu nguy cơ những công cụ đó bị lợi dụng để tạo nội dung gây hại.

Ngoài ra, mọi sản phẩm của chúng tôi đều chịu sự điều chỉnh của một bộ chính sách quy định những nội dung và hành vi được chấp nhận cũng như không được chấp nhận. Chúng tôi không ngừng chỉnh sửa và cập nhật chính sách để giải quyết những rủi ro mới xuất hiện. Về lĩnh vực AI, chúng tôi cũng dựa vào Nguyên tắc về trí tuệ nhân tạo của mình để định hướng quy trình phát triển sản phẩm cũng như kiểm thử và đánh giá mọi ứng dụng AI trước khi ra mắt.

Phát hiện nội dung gây hại

Trong bối cảnh các đối tượng xấu sử dụng những thủ đoạn ngày càng tinh vi, chúng tôi phải nỗ lực nhiều hơn nữa để phát hiện nội dung gây hại xâm nhập vào các sản phẩm của mình. Công nghệ AI đang giúp chúng tôi mở rộng khả năng phát hiện hành vi sai trái trên khắp các nền tảng của Google. Các thuật toán phân loại sử dụng AI giúp nhanh chóng gắn cờ nội dung có khả năng gây hại để gỡ bỏ hoặc chuyển lên một nhân viên đánh giá. Năm 2022, tính năng thực thi tự động đã giúp chúng tôi phát hiện và chặn hơn 51,2 triệu quảng cáo có chứa lời nói hận thù, nội dung bạo lực và tuyên bố có hại cho sức khoẻ. Ngoài ra, các mô hình ngôn ngữ lớn (một loại AI mang tính đột phá) cho thấy tiềm năng trong việc giảm đáng kể thời gian phát hiện và đánh giá nội dung gây hại, đặc biệt là nội dung đến từ những mối rủi ro mới lộ diện.

Chúng tôi cũng phối hợp với các tổ chức bên ngoài chuyên gắn cờ cho nội dung mà họ cho rằng có thể gây hại. Cả Google và YouTube đều nhận phản hồi của hàng trăm Người gắn cờ ưu tiên trên khắp thế giới. Đây là những tổ chức có chuyên môn về văn hoá cũng như chủ đề cần đánh giá và sẽ chuyển lên cho chúng tôi những nội dung cần xem xét.

Xử lý phù hợp

Chúng tôi dựa vào cả con người lẫn công nghệ AI để đánh giá những nội dung có thể vi phạm chính sách và xử lý phù hợp đối với nội dung bị gắn cờ. Khi có nội dung vi phạm chính sách của chúng tôi, chúng tôi có thể hạn chế, gỡ bỏ, tắt tính năng kiếm tiền hoặc thực hiện các biện pháp ở cấp tài khoản để làm giảm tình trạng sai phạm trong tương lai.

Năm 2022, Google Maps đã chặn hoặc gỡ bỏ hơn 300 triệu nội dung giả mạo, 115 triệu bài đánh giá vi phạm chính sách và 20 triệu hành vi tạo trang doanh nghiệp giả mạo. Quý 2 năm 2023, YouTube đã gỡ bỏ hơn 14 triệu kênh và 7 triệu video vi phạm Nguyên tắc cộng đồng .

Để đánh giá toàn diện và thoả đáng, đồng thời giảm nguy cơ gỡ bỏ quá mức cần thiết, chúng tôi có khoảng 20.000 chuyên gia đánh giá đã qua đào tạo đảm nhiệm nhiều vai trò nhằm thực thi chính sách, kiểm duyệt nội dung và đánh giá nội dung bị gắn cờ trên các sản phẩm và dịch vụ của Google.

Nếu một nhà sáng tạo hoặc nhà xuất bản cảm thấy chúng tôi đưa ra quyết định không chính xác, họ có thể kháng nghị quyết định của chúng tôi.

Trao đổi kiến thức để bảo vệ bạn

Chúng tôi hợp tác với các chuyên gia thuộc lĩnh vực xã hội dân sự, cộng đồng học thuật và chính quyền để xử lý những vấn đề toàn cầu như thông tin sai lệch, an toàn trong quảng cáo, tính liêm chính trong bầu cử, AI trong hoạt động kiểm duyệt nội dung và chống lại hành vi bóc lột trẻ em trên mạng. Đồng thời, chúng tôi cũng xuất bản các kết quả nghiên cứu và phát hành các tập dữ liệu cho giới học thuật nhằm giúp lĩnh vực này phát triển hơn nữa.

Tại YouTube, chúng tôi thường xuyên tham vấn đơn vị độc lập là Uỷ ban cố vấn Nội dung dành cho Thanh thiếu niên và Gia đình khi cập nhật sản phẩm và chính sách, kể cả Nguyên tắc về nội dung dành cho thanh thiếu niên , cũng như một loạt nội dung cập nhật sản phẩm tập trung vào sức khoẻ nói chung và sức khoẻ tâm thần nói riêng của thanh thiếu niên.

Hợp tác với chuyên gia để đấu tranh chống lại nội dung bất hợp pháp

Chúng tôi cũng phối hợp với các đối tác để phát hiện và chia sẻ những dấu hiệu rõ ràng về nội dung vi phạm, nhằm giúp gỡ bỏ những nội dung như vậy khỏi toàn bộ hệ sinh thái. Hằng năm, chúng tôi chia sẻ với Trung tâm Quốc gia về Trẻ em mất tích và Bị bóc lột của Hoa Kỳ hàng triệu hàm băm về nội dung xâm hại tình dục trẻ em (CSAM). Chúng tôi cũng tham gia Project Lantern, một chương trình cho phép các công ty công nghệ chia sẻ tín hiệu một cách bảo mật và có trách nhiệm. Ngoài ra, YouTube còn là đơn vị đồng sáng lập Diễn đàn Internet toàn cầu chống chủ nghĩa khủng bố (GIFCT). Diễn đàn này tập hợp ngành công nghệ, chính quyền, xã hội dân sự và cộng đồng học thuật để chống lại khủng bố và hoạt động bạo lực cực đoan trên mạng.

Hỗ trợ các tổ chức chuyên về an toàn

Chúng tôi hỗ trợ những tổ chức chuyên về an toàn trên mạng và kiến thức truyền thông trên khắp thế giới qua những chương trình hiệu quả cung cấp nội dung đào tạo và tài liệu, chẳng hạn như Be Internet Awesome, Hit Pause của YouTube và Google News Lab. Ngoài ra, Google và YouTube đã công bố khoản tài trợ 13,2 triệu USD cho Mạng lưới kiểm chứng quốc tế (IFCN) nhằm hỗ trợ mạng lưới gồm 135 tổ chức kiểm chứng này. Tổng cộng, hoạt động cộng tác của chúng tôi đã trang bị kỹ năng xác minh nội dung số cho hơn 550.000 nhà báo. Không chỉ vậy, chúng tôi cũng đã đào tạo trực tuyến cho 2,6 triệu nhà báo khác.