Informatie en content die je kunt vertrouwen

Misbruik voorkomen

We gebruiken beveiligingsmaatregelen op basis van machine learning om mensen te beschermen tegen ongeoorloofde content. Gmail blokkeert elke minuut automatisch bijna 10 miljoen spammails in inboxen, en Zoeken heeft tools om te voorkomen dat de functie Automatisch aanvullen mogelijk schadelijke zoekopdrachten suggereert. Via automatische detectie kan YouTube efficiënt en op grote schaal schadelijke content verwijderen. In het tweede kwartaal van 2023 werd 93% van de video's die in strijd waren met het beleid en van YouTube verwijderd werden, in eerste instantie automatisch gedetecteerd. We implementeren ook beveiligingsmaatregelen in onze generatieve AI-tools om het risico te beperken dat ze worden gebruikt om schadelijke content te maken.

Daarnaast is elk van onze producten onderworpen aan een reeks beleidsregels die acceptabele en onacceptabele content en gedrag beschrijven. Ons beleid wordt voortdurend aangescherpt en geüpdatet om nieuwe risico's aan te pakken. Bij ons werk in AI steunen we ook op onze AI-principes die de productontwikkeling sturen en ons helpen om elke AI-app te testen en te evalueren voordat deze gelanceerd wordt.

Schadelijke content detecteren

Naarmate de tactieken van mensen die te kwader trouw handelen zich verder ontwikkelen, moeten we nog harder werken om schadelijke content te detecteren die in onze producten terechtkomt. AI helpt ons bij het opschalen van misbruikdetectie op onze platforms. AI-gestuurde classificaties helpen om snel potentieel schadelijke content te markeren voor verwijdering of doorsturing naar een menselijke reviewer. In 2022 hielp geautomatiseerde handhaving ons om meer dan 51,2 miljoen advertenties die aanzetten tot haat en geweld of schadelijke gezondheidsclaims bevatten, te detecteren en te blokkeren. Daarnaast beloven grote taalmodellen, een baanbrekend type AI, de tijd die nodig is om schadelijk materiaal te detecteren en te evalueren exponentieel te verkorten, vooral voor nieuwe en opkomende risico's.

We werken ook samen met externe organisaties die content markeren waarvan ze denken dat deze schadelijk kan zijn. Zowel Google als YouTube krijgen feedback van honderden Melders met Prioriteit, organisaties over de hele wereld met culturele en vakinhoudelijke expertise die content ter beoordeling aan ons voorleggen.

Gepast reageren

We vertrouwen op mensen en AI-gestuurde technologie om mogelijke beleidsschendingen te beoordelen en gepast te reageren op content die wordt gemarkeerd. Wanneer content ons beleid schendt, kunnen we deze beperken, verwijderen, het genereren van inkomsten uitzetten of acties op accountniveau ondernemen om toekomstig misbruik tegen te gaan.

In 2022 blokkeerde of verwijderde Google Maps meer dan 300 miljoen stukken nepcontent, 115 miljoen reviews die het beleid schonden en 20 miljoen pogingen om neppe bedrijfsprofielen te maken. In het 2e kwartaal van 2023 verwijderde YouTube meer dan 14 miljoen kanalen en 7 miljoen video's omdat ze onze Communityrichtlijnen schonden.

Voor de beoordeling van context en nuances, en ook om het risico op onnodige verwijdering te verkleinen, maken we ook gebruik van circa 20.000 deskundig opgeleide reviewers. Deze reviewers werken in verschillende rollen om ons beleid te handhaven, content te modereren en gemarkeerde content te beoordelen in de producten en services van Google.

Creators of uitgevers die vinden dat we een verkeerde beslissing hebben genomen, kunnen bezwaar maken tegen onze beslissingen.

Kennis uitwisselen om je te beschermen

We werken samen met experts uit de samenleving, de academische wereld en overheidsinstanties om wereldwijde problemen (zoals misleidende informatie) aan te pakken en ons in te zetten voor advertentieveiligheid, eerlijke verkiezingen, AI in contentmoderatie en het bestrijden van online uitbuiting van kinderen. We publiceren ook onderzoeksresultaten en geven datasets vrij aan academici om verdere vooruitgang te boeken op dit gebied.

Bij YouTube overleggen we regelmatig met onze onafhankelijke Adviescommissie voor jeugd en gezinnen over product- en beleidsupdates, waaronder onze Principes voor jongeren en een reeks productupdates die zijn gericht op de geestelijke gezondheid en het welzijn van tieners.

Samenwerken met experts om illegale content te bestrijden

We werken ook samen met partners om duidelijke signalen van ongeoorloofde content op te sporen en te delen, zodat we deze uit het bredere ecosysteem kunnen verwijderen. We delen elk jaar miljoenen hashes van materiaal met seksueel misbruik van kinderen met het Amerikaanse National Center for Missing and Exploited Children. Bovendien nemen we deel aan Project Lantern, een programma waarmee technologiebedrijven signalen op een beveiligde en verantwoorde manier kunnen delen. Daarnaast is YouTube medeoprichter van het wereldwijde internetforum ter bestrijding van terrorisme (Global Internet Forum to Counter Terrorism, GIFCT), dat de technologiesector, de overheid, de samenleving en de academische wereld bijeenbrengt om terroristische en gewelddadige extremistische activiteiten online tegen te gaan.

Organisaties ondersteunen die zich inzetten voor veiligheid

We ondersteunen organisaties over de hele wereld die zich inzetten voor online veiligheid en mediawijsheid. Dit doen we door krachtige programma's met trainingen en materialen te bieden, zoals De InternetHelden, Druk op pauze van YouTube en het Google News Lab. Daarnaast hebben Google en YouTube een toelage van $ 13,2 miljoen aangekondigd voor het International Fact-Checking Network (IFCN) om hun netwerk van 135 factchecking-organisaties te ondersteunen. Alles bij elkaar hebben onze samenwerkingen meer dan 550.000 journalisten uitgerust met digitale verificatievaardigheden en hebben we nog eens 2,6 miljoen journalisten online getraind.