Informationen und Inhalte,

denen Sie vertrauen können

Missbrauch verhindern

Wir schützen Menschen mithilfe KI-gestützter Maßnahmen vor missbräuchlichen Inhalten. Gmail blockiert automatisch fast 10 Millionen Spam-E-Mails pro Minute, und Tools der Google Suche verhindern, dass die automatische Vervollständigung potenziell schädliche Suchanfragen vorschlägt. Die automatische Erkennung trägt dazu bei, dass YouTube große Mengen schädlicher Inhalte effizient entfernen kann. Im zweiten Quartal 2023 wurden 93 % der von YouTube aufgrund von Richtlinienverstößen entfernten Videos zuerst automatisch erkannt. Außerdem bauen wir Sicherheitsvorkehrungen in unsere Produkte basierend auf generativer KI ein, um das Risiko zu minimieren, dass sie zur Erstellung schädlicher Inhalte verwendet werden.

Darüber hinaus gelten für alle unsere Produkte bestimmte Richtlinien, in denen akzeptable sowie inakzeptable Inhalte und Verhaltensweisen festgelegt werden. Unsere Richtlinien werden ständig evaluiert, damit wir auf neue Risiken angemessen reagieren können. Bei der Entwicklung von Produkten stützen wir uns auch auf unsere KI-Grundsätze. Jede KI-Anwendung wird getestet und bewertet, bevor sie auf den Markt kommt.

Schädliche Inhalte erkennen

Da sich die Taktiken böswilliger Akteure weiterentwickeln, müssen wir noch mehr als bisher daran arbeiten, schädliche Inhalte zu erkennen. Dabei hilft uns künstliche Intelligenz. KI-gestützte Klassifikatoren tragen dazu bei, potenziell schädliche Inhalte schnell zu erkennen und zu entfernen oder an Prüfer:innen weiterzuleiten. Im Jahr 2022 konnten wir dank automatisierter Maßnahmen mehr als 51,2 Millionen Werbeanzeigen mit Hassrede, Gewalt und schädlichen gesundheitsbezogenen Behauptungen erkennen und blockieren. Darüber hinaus versprechen Large Language Models, ein Durchbruch im Bereich KI, eine exponentielle Verkürzung der Zeit, die für die Erkennung und Bewertung von schädlichem Material benötigt wird – insbesondere in Bezug auf neue Risiken.

Wir arbeiten auch mit externen Organisationen zusammen, die Inhalte melden, welche ihrer Meinung nach schädlich sein könnten. Sowohl Google als auch YouTube erhalten Feedback von Hunderten von „Priority Flaggern“, also von Organisationen auf der ganzen Welt, die über das nötige kulturelle und inhaltliche Know-how verfügen und uns Inhalte zur Prüfung weiterleiten.

Angemessen reagieren

Wir verlassen uns sowohl auf Menschen als auch auf KI-gestützte Technologie, um potenzielle Richtlinienverstöße zu bewerten und angemessen auf gemeldete Inhalte zu reagieren. Wenn ein Inhalt gegen unsere Richtlinien verstößt, können wir ihn einschränken, entfernen, die Monetarisierung deaktivieren oder Maßnahmen auf Kontoebene ergreifen, um zukünftigen Missbrauch zu verhindern.

Im Jahr 2022 wurden in Google Maps über 300 Millionen gefälschte Inhalte gesperrt, 115 Millionen Rezensionen, die gegen die Richtlinien verstießen, entfernt, und 20 Millionen Versuche, gefälschte Unternehmensprofile zu erstellen, verhindert. Im zweiten Quartal 2023 wurden bei YouTube mehr als 14 Millionen Kanäle und 7 Millionen Videos aufgrund von Verstößen gegen unsere Community-Richtlinien entfernt.

Wir arbeiten mit etwa 20.000 fachlich geschulten Prüfer:innen zusammen, die Kontext und Nuancen in die Bewertung einbeziehen, um Inhalte nur dann zu entfernen, wenn dies tatsächlich gerechtfertigt ist. Diese Prüfer:innen setzen außerdem unsere Richtlinien durch, moderieren Inhalte und bewerten gemeldete Inhalte in allen Produkten und Diensten von Google.

Sollten Creator oder Publisher der Meinung sein, dass wir eine falsche Entscheidung getroffen haben, können sie dagegen Einspruch erheben.