Das Secure AI Framework (SAIF) von Google
Das Potenzial von KI-Technologie – insbesondere von generativer KI – ist immens. Mit zunehmender Weiterentwicklung von KI benötigt die Branche aber auch Sicherheitsstandards für deren verantwortungsvolle Entwicklung und Verwendung. Aus diesem Grund haben wir das Secure AI Framework (SAIF) ins Leben gerufen – ein Konzept für die Entwicklung sicherer KI-Systeme.
Im Mittelpunkt des SAIF stehen die zentralen Anliegen von Sicherheitsexpert:innen wie Risikomanagement, Sicherheit und Datenschutz in Zusammenhang mit KI- und ML-Modellen – dies soll helfen, Modelle standardmäßig sicher zu machen.
Unser Ziel lautet, Rahmenbedingungen für die Entwicklung von sicherer KI-Technologie zu etablieren und ein SAIF-Ökosystem für Unternehmen, Organisationen sowie öffentliche Einrichtungen zu schaffen. Hier stellen wir Ihnen die ersten Erfolge unserer Bemühungen vor.
Die Bedeutung des SAIF für Unternehmen und öffentliche Einrichtungen
Wir arbeiten mit Unternehmen und öffentlichen Einrichtungen zusammen, um den Einsatz von künstlicher Intelligenz möglichst sicher zu machen. Unsere Kooperation mit politischen Entscheidungsträger:innen und Normungsorganisationen trägt dazu bei, die gesetzlichen Rahmenbedingungen weiterzuentwickeln. Vor Kurzem haben wir die Rolle des SAIF beim Schutz von KI-Systemen im Rahmen der von der US-Regierung eingeführten Selbstverpflichtung von KI-Unternehmen hervorgehoben.
Umsetzung des SAIF in Zusammenarbeit mit Partnern
Partner aus der Branche unterstützen uns dabei, das SAIF umzusetzen. Dazu veranstalten wir Workshops mit Sicherheitsexpert:innen und veröffentlichen Best Practices für den Schutz von Unternehmen mithilfe von künstlicher Intelligenz. Zusammen mit Deloitte haben wir außerdem ein Whitepaper veröffentlicht, in dem erläutert wird, wie Unternehmen Herausforderungen in puncto Sicherheit mithilfe von KI meistern können.
-
Mehr KI-Sicherheit: Das „AI Red Team“ von Google
Hier erfahren Sie, wie das „AI Red Team“ von Google auf innovative Weise die Sicherheit von KI-Systemen verbessert. In unserem neuesten Bericht finden Sie die wichtigsten Informationen und Erkenntnisse in diesem Zusammenhang.
-
Schutz von KI-Systemen durch Mandiant
Mandiant setzt sich für die proaktive Integration von Schutzfunktionen für KI-Systeme ein und folgt dabei den robusten Sicherheitsstandards des SAIF.
-
Android: Richtlinien für die sichere Entwicklung
Mit den Benachrichtigungen zu Sicherheitslücken von Android und den Sicherheitsrichtlinien für ML-Code können Sie zusätzlich zum Schutz Ihres Unternehmens beitragen.
-
Schutz von KI-Systemen durch Google Cloud
Für Vorstände bietet Google Cloud spezielle Ressourcen für Cybersecurity, die Entwicklung von KI-Systemen, Risiko-Governance und sichere Transformation.
Welchen Einfluss hat das SAIF auf die verantwortungsbewusste Anwendung von KI?
Google hat sich das Ziel gesetzt, KI auf verantwortungsvolle Weise zu entwickeln und auch andere Unternehmen dabei zu unterstützen. Gemäß unseren KI-Grundsätzen, die wir 2018 veröffentlicht haben, verpflichten wir uns dazu, KI-Technologie verantwortungsbewusst und mit besonderem Augenmerk auf Sicherheit, Verantwortlichkeit und höchste Anforderungen an die Qualität wissenschaftlicher Arbeit zu entwickeln. Unser Ansatz berücksichtigt auch Faktoren wie Fairness, Interpretierbarkeit, Sicherheit und Datenschutz, die als Leitlinien für die Entwicklung unserer KI-Produkte dienen.
Das SAIF bildet dabei die Grundlage ganzheitlicher Standards für die Umsetzung von Sicherheits- und Datenschutzmaßnahmen für ML-basierte Anwendungen. Im Mittelpunkt stehen dabei die Punkte Sicherheit und Datenschutz. Das SAIF ermöglicht die verantwortungsbewusste Entwicklung von ML-basierten Anwendungen unter Berücksichtigung der sich ständig weiterentwickelnden Bedrohungen und der Erwartungen der Nutzer:innen.
Wie setzt Google das SAIF um?
Google engagiert sich schon seit Langem für Cybersecurity und die verantwortungsvolle Entwicklung von KI-Technologie. Innovationen im Bereich KI spielen bereits seit Jahren eine große Rolle, was unsere Best Practices für Sicherheit angeht. Unser Secure AI Framework basiert auf unseren umfassenden Erfahrungen sowie Praktiken, die wir im Laufe der Zeit entwickelt und umgesetzt haben. Darüber hinaus folgt es unserem Ansatz für die Entwicklung von Apps, die auf ML bzw. generativer KI basieren. Dieser stellt Verantwortlichkeit, Nachhaltigkeit und skalierbare Sicherheits- und Datenschutzmaßnahmen in den Vordergrund. Wir werden das SAIF auch in Zukunft weiterentwickeln und an neue Risiken, Faktoren und Fortschritte im Bereich KI anpassen.
Wie können Sicherheitsexpert:innen das SAIF umsetzen?
In unserer Kurzanleitung erfahren Sie mehr über die Umsetzung des SAIF:
-
Schritt 1 – Anwendungsfall analysieren
- Wenn Sie genau nachvollziehen können, welches Problem in Ihrem Unternehmen mithilfe von KI gelöst werden soll und welche Trainingsdaten für das Modell erforderlich sind, erleichtert Ihnen das die Umsetzung von Richtlinien, Protokollen und Kontrollen im Rahmen des SAIF.
-
Schritt 2 – Team zusammenstellen
- Die Entwicklung und Bereitstellung von KI-Systemen erfordert ein multidisziplinäres Team.
- KI-Systeme können oft komplex und wenig transparent sein, aus zahlreichen Komponenten bestehen, große Datenmengen und viele Ressourcen nutzen, für wichtige Entscheidungen genutzt werden und Inhalte generieren, die anstößig oder schädlich sind oder Klischees und soziale Vorurteile verbreiten.
- Sie benötigen deshalb ein bereichsübergreifendes Team, das Sicherheit, Datenschutz, Risikomanagement und Compliance von Anfang an in den Mittelpunkt stellt.
-
Schritt 3 – Einführung in das Thema KI
- Wenn Ihr Team bereit ist, die Anwendungsfälle, Herausforderungen, Risiken und Sicherheitskontrollen zu analysieren, ist es wichtig, dass alle Beteiligten mit den Grundlagen des Entwicklungslebenszyklus von KI-Modellen, dem Design und der Logik von Modellmethoden sowie den Funktionen, Vorteilen und Einschränkungen des Modells vertraut sind.
-
Schritt 4 – Die sechs Grundpfeiler des SAIF umsetzen (siehe unten)
- Diese Grundsätze müssen nicht in chronologischer Reihenfolge umgesetzt werden.
Wo finde ich weitere Informationen zum SAIF und dessen Umsetzung für mein Unternehmen?
Bleiben Sie auf dem Laufenden. Wir werden in Zukunft weitere Ressourcen, Leitfäden und Tools rund um das Secure AI Framework sowie Best Practices für die Entwicklung von KI-Anwendungen teilen.
Als eines der ersten Unternehmen mit klar definierten KI-Grundsätzen haben wir den Standard für die verantwortungsbewusste Anwendung von KI gesetzt. Dieser Standard hilft uns, bei der Entwicklung unserer Produkte besonderes Augenmerk auf Sicherheit zu legen. Wir entwickeln branchenweite Sicherheitsstandards und engagieren uns für deren Umsetzung. Dabei haben wir festgestellt, dass Zusammenarbeit der Schlüssel zu langfristigem Erfolg ist. Deshalb freuen wir uns, eine SAIF-Community für alle zu schaffen.
Hier erfahren Sie, wie Google jeden Tag daran arbeitet, das Internet für alle sicherer zu machen.