Information och innehåll som du kan lita på

Förebygga otillåten användning

Vi använder skydd som drivs av maskininlärning för att skydda människor från otillåtet innehåll online. Gmail blockerar automatiskt nästan 10 miljoner spammeddelanden i minuten från att nå inkorgar, och i Sök finns verktyg för att förhindra att autoslutför föreslår sökfrågor som kan vara skadliga. Med hjälp av automatisk identifiering kan YouTube ta bort skadligt innehåll på ett effektivt sätt och i stor skala. Under det andra kvartalet 2023 identifierades 93 % av videorna som togs bort från YouTube på grund av policyöverträdelser automatiskt. Vi implementerar även skydd i våra verktyg för generativ AI för att minska risken att de används till att skapa skadligt innehåll.

Dessutom styrs var och en av våra produkter av en uppsättning policyer som beskriver vilket innehåll och vilka beteenden som är tillåtna och förbjudna. Vi finjusterar och uppdaterar kontinuerligt våra policyer för att stävja nya risker. Vi förlitar oss även på våra AI-principer i vårt arbete inom AI. Dessa styr produktutvecklingen och hjälper oss att testa och utvärdera varje AI-program innan det lanseras.

Identifiera skadligt innehåll

Allt eftersom skadliga aktörer utvecklar sina metoder måste vi jobba ännu hårdare för att identifiera skadligt innehåll i våra produkter. Med hjälp av AI kan vi skala upp vår identifiering av otillåten användning på våra plattformar. Med hjälp av AI-baserade klassificerare kan potentiellt skadligt innehåll snabbt flaggas för borttagning eller eskalering till en mänsklig granskare. Under 2022 identifierade vi och blockerade över 51,2 miljoner annonser som innehöll hatretorik, våld och skadliga hälsopåståenden med hjälp av automatisk tillämpning. Dessutom finns det indikationer på att stora språkmodeller, en revolutionerande typ av AI, kan sänka tiden det tar att identifiera och utvärdera skadligt material exponentiellt, särskilt från nya och kommande risker.

Vi samarbetar även med andra organisationer som flaggar innehåll de tycker verkar skadligt. Både Google och YouTube tar emot feedback från hundratals prioriterade flaggare, organisationer från hela världen med expertis inom kultur och ämnen som eskalerar innehåll till oss för granskning.

Vidta lämpliga åtgärder

Vi förlitar oss på både människor och AI-baserad teknik när vi utvärderar eventuella policyöverträdelser och vidtar lämpliga åtgärder för flaggat innehåll. När innehåll bryter mot våra policyer kan vi begränsa, ta bort, inaktivera intäktsgenerering eller vidta åtgärder på kontonivå för att minska otillåten användning.

Google Maps blockerade eller tog bort över 300 objekt med falskt innehåll, 115 miljoner policyöverträdande recensioner och 20 miljoner försök att skapa falska företagsprofiler under 2022. Under andra kvartalet 2023 tog YouTube bort över 14 miljoner kanaler och 7 miljoner videor för att de bröt mot våra riktlinjer för communityn .

Vi har ungefär 20 000 välutbildade granskare i olika roller till hjälp för att utvärdera sammanhang och nyanser för innehållet. De tillämpar våra policyer, modererar innehåll och utvärderar flaggat innehåll i Googles produkter och tjänster.

Om en kreatör eller utgivare anser att vi fattat fel beslut kan de överklaga våra beslut.

Kunskapsutbyte kan skydda dig

Vi samarbetar med experter från civilsamhället, myndigheter och akademiker för att hantera globala problem som felaktig information, annonssäkerhet, valintegritet och AI inom innehållsmoderering, samt för att bekämpa exploatering av barn online. Vi publicerar även vår forskning och låter akademiker ta del av dataset för att gynna utvecklingen på detta område.

Vi på YouTube rådfrågar regelbundet vår oberoende rådgivande kommitté för barn, unga och familjer om produkt- och policyuppdateringar, inklusive våra innehållsprinciper för barn och ungdomar samt en rad produktuppdateringar med fokus på ungdomars psykiska hälsa och välbefinnande.

Samarbeta med experter för att bekämpa olagligt innehåll

Vi samarbetar även med partners för att upptäcka och dela tydliga signaler på otillåtet innehåll så att det kan tas bort från det större ekosystemet. Varje år delar vi miljontals hashar av material som visar sexuellt övergrepp mot barn med US National Center for Missing and Exploited Children. Vi deltar även i programmet Project Lantern, som möjliggör för teknikföretag att dela signaler på ett säkert och ansvarsfullt sätt. Dessutom är YouTube medgrundare till Global Internet Forum to Counter Terrorism (GIFCT), där teknikbranschen, myndigheter, civilsamhället och akademiker jobbar tillsammans för att motarbeta terrorism och våldsam extremism online.

Stödja säkerhetsorganisationer

Vi stödjer organisationer runt om i världen som arbetar med onlinesäkerhet och medie- och informationskunnighet genom att erbjuda utbildning och material via robusta program, till exempel Be Internet Awesome, YouTubes Hit Pause och Google News Lab. Dessutom har Google och YouTube meddelat att International Fact-Checking Network (IFCN) får 13,2 miljoner dollar i bidrag som stöd för sitt nätverk av 135 organisationer för faktakontroll. Sammantaget har våra samarbeten försett över 550 000 journalister med färdigheter i digital verifiering, och vi har utbildat 2,6 miljoner till online .