Informações e conteúdo confiáveis

Prevenção de abusos

Para manter as pessoas longe de conteúdo abusivo, usamos proteções com tecnologia de aprendizado de máquina. O Gmail automaticamente impede que quase 10 milhões de e-mails de spam cheguem nas caixas de entrada a cada minuto, e a Pesquisa tem ferramentas que evitam que o preenchimento automático sugira consultas potencialmente nocivas. A detecção automática ajuda o YouTube a remover conteúdo nocivo com eficiência e em larga escala. No segundo trimestre de 2023, 93% dos vídeos com violações de políticas removidos do YouTube foram detectados automaticamente. Também implementamos mecanismos de segurança nas nossas ferramentas de IA generativa para minimizar o risco de elas serem usadas para criar conteúdo nocivo.

Além disso, todos os nossos produtos são regidos por um conjunto de políticas que descreve conteúdos e comportamentos que são aceitáveis ou não. Nossas políticas são continuamente aperfeiçoadas e atualizadas para refletir novos riscos. Quando se trata do trabalho com IA, também contamos com nossos princípios de IA para guiar o desenvolvimento de produtos e nos ajudar a testar e avaliar todos os aplicativos com essa tecnologia antes do lançamento.

Detecção de conteúdo nocivo

Conforme as táticas dos usuários de má-fé evoluem, precisamos trabalhar cada vez mais para detectar conteúdos nocivos que atingem nossos produtos. A IA nos ajuda a escalonar a detecção de abuso nas nossas plataformas. Classificadores com tecnologia de IA ajudam a sinalizar conteúdo potencialmente nocivo para remoção ou encaminhamento para revisão humana. Em 2022, o sistema automatizado de aplicação de políticas ajudou a detectar e bloquear mais de 51,2 milhões de anúncios com discurso de ódio, violência e alegações prejudiciais sobre saúde. Além disso, os modelos de linguagem grandes, um tipo inovador de IA, prometem reduzir exponencialmente o tempo que levamos para detectar e avaliar materiais nocivos, especialmente os relacionados a riscos novos e emergentes.

Também trabalhamos com organizações externas que sinalizam conteúdo que pode ser nocivo. O Google e o YouTube recebem feedback de centenas de sinalizadores de notificações prioritárias, que são organizações do mundo todo especialistas em cultura e nos assuntos em questão que nos encaminham conteúdo para revisão.

Respostas adequadas

Contamos tanto com pessoas quanto com tecnologia baseada em IA para avaliar potenciais violações de políticas e tomar as devidas providências em relação aos conteúdos sinalizados. Quando um conteúdo viola nossas políticas, podemos restringir, remover, desmonetizar ou agir no nível da conta para reduzir abusos futuros.

Em 2022, o Google Maps bloqueou ou removeu mais de 300 milhões de conteúdos falsos, 115 milhões de avaliações que violavam as políticas e 20 milhões de tentativas de criar Perfis da Empresa falsos. No segundo trimestre de 2023, o YouTube removeu mais de 14 milhões de canais e 7 milhões de vídeos por violação das nossas diretrizes da comunidade .

A fim de avaliar o contexto e as nuances, reduzindo o risco de remoção excessiva, contamos com cerca de 20 mil revisores com treinamento especializado para trabalhar em várias funções e aplicar nossas políticas, moderar conteúdo e avaliar conteúdo sinalizado nos produtos e Serviços do Google.

Se um criador ou publisher achar que cometemos um erro, ele pode recorrer das nossas decisões.

Troca de conhecimento para manter você em segurança

Temos parcerias com especialistas da sociedade civil, da academia e dos governos para abordar problemas globais, como desinformação, segurança de anúncios, integridade eleitoral, IA na moderação de conteúdo e combate à exploração infantil on-line. Também publicamos resultados de pesquisas e lançamos conjuntos de dados a acadêmicos, fomentando o progresso da área.

No YouTube, consultamos regularmente nosso Comitê consultivo de jovens e famílias sobre atualizações de produtos e políticas, incluindo nossos Princípios para os jovens , além de uma série de atualizações de produtos focadas na saúde mental e no bem-estar dos adolescentes.

Trabalhar com especialistas para combater conteúdo ilegal

Também trabalhamos com parceiros para descobrir e compartilhar indicadores claros de conteúdo abusivo, que então podem ser removidos do ecossistema mais amplo. Todos os anos, compartilhamos milhões de hashes de material de abuso sexual infantil com o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) dos Estados Unidos. Também participamos do Project Lantern, um programa que permite que empresas de tecnologia compartilhem indicadores de maneira segura e responsável. Além disso, o YouTube cofundou o Fórum Global da Internet para o Combate ao Terrorismo (GIFCT, na sigla em inglês), que une o setor de tecnologia, os governos, a sociedade civil e a academia para combater atividades on-line terroristas e extremistas.

Apoio a organizações dedicadas à segurança

Apoiamos organizações globais que se dedicam à segurança on-line e à alfabetização midiática com programas que oferecem treinamento e materiais, como o Seja Incrível na Internet, o Aperte o Pause do YouTube e o Google News Lab. O Google e o YouTube também anunciaram um subsídio de US$ 13,2 milhões para a Rede Internacional de Verificação de Fatos (IFCN, na sigla em inglês), uma rede que conta com 135 organizações de checagem de fatos. Ao todo, nossas colaborações conferiram habilidades de verificação digital a mais de 550 mil jornalistas, e treinamos outros 2,6 milhões on-line .