Informace a obsah, kterým můžete věřit

Předcházení zneužívání

K ochraně lidí před obsahem, který porušuje zásady, používáme prostředky založené na strojovém učení. Gmail uživatelům z doručené pošty každou minutu automaticky zablokuje téměř 10 milionů spamových e‑mailů a nástroje ve Vyhledávání zajišťují, aby automatické doplňování nenavrhovalo potenciálně škodlivé dotazy. Automatická detekce pomáhá YouTube odstraňovat škodlivý obsah efektivně a ve velkém měřítku – ve 2. čtvrtletí roku 2023 bylo 93 % videí porušujících zásady odstraněných z YouTube poprvé detekováno automaticky. Do našich nástrojů s generativní umělou inteligencí také implementujeme bezpečnostní ochrany, abychom minimalizovali riziko, že budou použity k vytváření škodlivého obsahu.

Kromě toho má každá naše služba soubor zásad , který specifikuje přijatelný a nepřijatelný obsah a chování. Zásady neustále zdokonalujeme a aktualizujeme tak, aby řešily vznikající rizika. Pokud jde o naši práci v oblasti umělé inteligence, spoléháme se také na naše principy AI , kterými se řídíme při vývoji produktů a které nám pomáhají každou aplikaci s umělou inteligencí před publikováním otestovat a vyhodnotit.

Detekce škodlivého obsahu

Protože se taktiky osob s nekalými úmysly neustále vyvíjí, musíme na odhalování škodlivého obsahu v našich službách pracovat čím dál usilovněji. Při rozšiřování detekce zneužívání na našich platformách nám pomáhá umělá inteligence. Klasifikátory založené na umělé inteligenci pomáhají rychle nahlásit potenciálně škodlivý obsah za účelem odstranění nebo eskalace ke kontrole člověkem. V roce 2022 nám automatické vymáhání zásad pomohlo odhalit a zablokovat více než 51,2 milionu reklam s projevy nenávisti, násilím a škodlivými zdravotními tvrzeními. Velké jazykové modely, průlomový typ umělé inteligence, navíc ukazují příslib exponenciálního zkrácení doby potřebné k detekci a vyhodnocení škodlivého materiálu, zejména u nových a vznikajících rizik.

Spolupracujeme také s externími organizacemi, které nahlašují obsah, který by podle nich mohl být škodlivý. Google i YouTube získávají zpětnou vazbu od stovek prioritních nahlašovatelů (organizací z celého světa s odbornými znalostmi v oblasti kultury a kontrolních témat), kteří nám eskalují obsah ke kontrole.

Náležitá reakce

Při vyhodnocování potenciálních porušení zásad a rozhodování ohledně nahlášeného obsahu využíváme kromě lidí také technologii založenou na umělé inteligenci. Když určitý obsah porušuje naše zásady, můžeme k němu omezit přístup, odstranit ho, zrušit jeho zpeněžování nebo podniknout kroky na úrovni účtu k omezení zneužití v budoucnu.

V roce 2022 jsme v Mapách Google zablokovali nebo odstranili více než 300 milionů položek falešného obsahu a 115 milionů recenzí porušujících zásady a zabránili jsme 20 milionům pokusů o vytvoření falešných firemních profilů. Ve 2. čtvrtletí roku 2023 jsme z YouTube odstranili více než 14 milionů kanálů a 7 milionů videí kvůli porušení našich pokynů pro komunitu .

Abychom zohlednili kontext a drobné nuance a snížili riziko zbytečného odstranění, využíváme přibližně 20 000 odborně vyškolených kontrolorů, kteří pracují v různých rolích při prosazování našich zásad, moderování obsahu a posuzování nahlášeného obsahu ve všech produktech a službách Google.

Pokud se autor nebo majitel domnívá, že jsme se rozhodli špatně, může se proti našemu rozhodnutí odvolat .

Výměna znalostí pro vaši bezpečnost

Spolupracujeme s odborníky z občanské společnosti, akademické obce a veřejnoprávních institucí při řešení globálních problémů, jako jsou dezinformace, bezpečnost reklam, integrita voleb, využití umělé inteligence při moderování obsahu a boj proti vykořisťování dětí online. Zveřejňujeme také výsledky výzkumu a poskytujeme soubory dat akademikům, abychom v této oblasti podpořili pokrok.

Aktualizace služby YouTube a jejích zásad pravidelně konzultujeme s nezávislou poradní komisí pro rodiny a mládež . Konzultujeme s ní mimo jiné i záležitosti, jako jsou naše obsahové zásady pro děti a mládež a také série aktualizací služeb zaměřených na duševní zdraví a pohodu dospívajících.

Spolupráce s odborníky při boji proti nelegálnímu obsahu

Spolupracujeme také s partnery na odhalování a sdílení jasných signálů obsahu, který porušuje zásady, abychom umožnili jeho odstranění z širšího ekosystému. Každý rok s americkým Národním centrem pro pohřešované a zneužívané děti sdílíme miliony hashů materiálů zobrazujících sexuální zneužívání dětí. Účastníme se také programu Project Lantern, který technologickým společnostem umožňuje sdílet signály bezpečným a odpovědným způsobem. Kromě toho společnost YouTube spoluzaložila Globální internetové fórum pro boj proti terorismu (GIFCT), které sdružuje technologický průmysl, veřejnoprávní instituce, občanskou společnost a akademickou obec v boji proti teroristickým a násilným extremistickým aktivitám online.

Podpora organizací věnujících se bezpečnosti

Poskytujeme školení a materiály organizacím po celém světě, které se zabývají online bezpečností a mediální gramotností – například prostřednictvím programů, jako jsou Internetoví úžasňáci, Dejte si pauzu na YouTube a Google News Lab. Kromě toho společnosti Google a YouTube oznámily grant ve výši 13,2 milionu dolarů pro organizaci International Fact-Checking Network (IFCN) na podporu její sítě 135 organizací zabývajících se ověřováním faktů. Celkově jsme prostřednictvím spolupráce vybavili dovednostmi digitálního ověřování více než 550 tisíc novinářů a dalších 2,6 milionu jsme vyškolili online.