Das Secure AI Framework von Google
(SAIF).
Das Potenzial von KI-Technologie – insbesondere von generativer KI – ist immens. Mit zunehmender Weiterentwicklung von KI benötigt die Branche aber auch Sicherheitsstandards für deren verantwortungsvolle Entwicklung und Verwendung. Aus diesem Grund haben wir das Secure AI Framework (SAIF) ins Leben gerufen – ein Konzept für die Entwicklung sicherer KI-Systeme.
Die sechs zentralen Elemente des SAIF.
-
Bewährte Sicherheitsgrundlagen auf das KI-Ökosystem ausweiten
-
Bedrohungserkennung und -abwehr auf KI ausweiten
-
Schutzmaßnahmen gegen bestehende und sich ständig weiterentwickelnde Bedrohungen automatisieren
-
Einstellungen auf Plattformebene optimieren, um die Sicherheit im gesamten Unternehmen zu verbessern
-
Schutzmaßnahmen anpassen und effizientere Feedback-Schleifen für den Einsatz von KI schaffen
-
Zusammenhänge zwischen Sicherheitsrisiken für KI-Systeme und den damit verbundenen Geschäftsprozessen erkennen
Mehr Sicherheit.
Weitere Ressourcen.
Mehr KI-Sicherheit: Das „AI Red Team“ von Google
Hier erfahren Sie, wie das „AI Red Team“ von Google auf innovative Weise die Sicherheit von KI-Systemen verbessert. In unserem neuesten Bericht finden Sie die wichtigsten Informationen und Erkenntnisse in diesem Zusammenhang.
Schutz von KI-Systemen durch Mandiant
Mandiant setzt sich für die proaktive Integration von Schutzfunktionen für KI-Systeme ein und folgt dabei den robusten Sicherheitsstandards des SAIF.
Android: Richtlinien für die sichere Entwicklung
Mit den Benachrichtigungen zu Sicherheitslücken von Android und den Sicherheitsrichtlinien für ML-Code können Sie zusätzlich zum Schutz Ihres Unternehmens beitragen.
Schutz von KI-Systemen durch Google Cloud
Für Vorstände bietet Google Cloud spezielle Ressourcen für Cybersecurity, die Bereitstellung von KI-Systemen, den Umgang mit Risiken und eine sichere Transformation.
Schutz der Lieferkette für KI‑Software
In diesem Whitepaper wird erläutert, wie die Lieferkette für KI-Software mithilfe von Herkunftsinformationen geschützt wird. Außerdem werden bekannte und neue Risiken beschrieben, die im Zusammenhang mit KI‑Software bestehen, und umsetzbare Lösungen für Organisationen vorgestellt.
Häufig gestellte Fragen
zum SAIF.
Google engagiert sich schon seit Langem für Cybersecurity und die verantwortungsvolle Entwicklung von KI-Technologie. Wir wenden unsere Best Practices für Sicherheit bereits seit Jahren auf Innovationen im Bereich KI an. Unser Secure AI Framework basiert auf unseren umfassenden Erfahrungen sowie Praktiken, die wir im Laufe der Zeit entwickelt und umgesetzt haben. Darüber hinaus folgt es unserem Ansatz für die Entwicklung von Apps, die auf ML beziehungsweise generativer KI basieren. Dieser stellt Verantwortlichkeit, Nachhaltigkeit und skalierbare Sicherheits- und Datenschutzmaßnahmen in den Vordergrund. Wir werden das SAIF auch in Zukunft weiterentwickeln und an neue Risiken, Faktoren und Fortschritte im Bereich KI anpassen.
In unserem Kurzleitfaden zur Implementierung des SAIF finden Sie weitere Informationen:
- Schritt 1: Anwendungsfall definieren
- Wenn Sie das spezifische Geschäftsproblem kennen, das durch KI gelöst werden soll, und wissen, welche Daten zum Trainieren des Modells benötigt werden, können Sie die Richtlinien, Protokolle und Kontrollen festlegen, die im Rahmen des SAIF implementiert werden müssen.
- Schritt 2: Team zusammenstellen
- Die Entwicklung und Bereitstellung von KI-Systemen ist, wie bei herkömmlichen Systemen auch, eine multidisziplinäre Aufgabe.
- KI-Systeme sind oft komplex und undurchsichtig. Sie bestehen aus vielen Teilen, benötigen große Datenmengen, sind ressourcenintensiv, können für Entscheidungen auf der Grundlage von Urteilen verwendet werden und können neuartige Inhalte generieren, die anstößig, schädlich oder stereotypisch und sozial voreingenommen sind.
- Stellen Sie ein geeignetes bereichsübergreifendes Team zusammen, um sicherzustellen, dass Sicherheits-, Datenschutz-, Risiko- und Compliance-Aspekte von Anfang an berücksichtigt werden.
-
Schritt 3: KI-Grundlagen schaffen
- Wenn Teams die geschäftliche Nutzung von KI und die verschiedenen und sich entwickelnden Komplexitäten, Risiken und Sicherheitskontrollen bewerten, ist es wichtig, dass alle Beteiligten Folgendes verstehen: die Grundlagen des Lebenszyklus der KI-Modellentwicklung , das Design und die Logik der Modellmethoden, einschließlich der Fähigkeiten, Vorteile und Einschränkungen.
-
Schritt 4: Die sechs Kernelemente des SAIF anwenden
- Diese Elemente müssen nicht in chronologischer Reihenfolge angewendet werden.
Wir halten Sie auf dem Laufenden und werden in Zukunft weitere Ressourcen, Leitfäden und Tools rund um das Secure AI Framework sowie Best Practices für die Entwicklung von KI-Anwendungen teilen.
Darum setzen wir uns für ein sicheres KI-Ökosystem für alle ein.
