Secure AI Framework від Google
(SAIF)
Штучний інтелект (ШІ), особливо генеративний, має величезний потенціал. Інновації не стоять на місці, тому в цій галузі важливо сформувати стандарти безпеки, які допоможуть відповідально розробляти й розгортати ШІ. Саме тому ми впровадили Secure AI Framework (SAIF) – концептуальну основу для захисту систем, які працюють на базі ШІ.
Шість основних елементів SAIF
-
Застосування перевірених механізмів захисту до екосистеми ШІ
-
Розширене виявлення й усунення загроз, пов’язаних із ШІ, на рівні всієї організації
-
Автоматизація систем захисту для вчасної протидії наявним і новим загрозам
-
Узгоджений контроль на різних платформах для уніфікованого захисту в межах організації
-
Адаптація елементів керування: ефективніше усунення ризиків і швидші цикли зі зворотним зв’язком для розгортання ШІ
-
Контекстуалізація ризиків ШІ-систем у наявних бізнес-процесах
Створення безпечної екосистеми
Додаткові ресурси
Підвищення безпеки ШІ: "червона команда" ШІ від Google
Дізнайтесь, як "червона команда" ШІ від Google за допомогою передових тактик підвищує безпеку систем, що працюють на базі ШІ. Основну статистику й практичні висновки можна переглянути в нашому останньому звіті.
Захист систем ШІ з Mandiant
Компанія Mandiant спонукає до активної інтеграції механізмів безпеки в системи на базі ШІ й працює із SAIF задля забезпечення надійного захисту.
Android: рекомендації щодо безпечної розробки
Захистіть свою організацію за допомогою сповіщень Android про вразливість системи в реальному часі й дотримуйтеся рекомендацій щодо безпечної розробки коду машинного навчання.
Захист ШІ з Google Cloud
Google Cloud пропонує директорам організацій ретельно підібраний набір ресурсів, присвячених кібербезпеці, розгортанню систем на базі ШІ, керуванню ризиками й безпечній трансформації.
Захист мережі постачання продуктів на основі ШІ
У цьому інформаційному документі описано, як захистити мережу постачання ШІ завдяки відомостям про походження, зазначено ризики, пов’язані з традиційним програмним забезпеченням і ПЗ на основі ШІ, а також наведено практичні рішення для організацій.
Поширені запитання
про SAIF
Уже багато років компанія Google популяризує відповідальну розробку ШІ й засобів кібербезпеки, а також поєднує найефективніші механізми захисту з інноваціями в галузі ШІ. Наші принципи Secure AI Framework засновані на досвіді й передових методах, які ми розробили та впровадили. Вони відображають підхід Google до розробки додатків на основі машинного навчання й генеративного ШІ з гнучкими, сталими та масштабованими засобами захисту для безпеки й конфіденційності. Ми й далі розвиватимемо та розроблятимемо SAIF з урахуванням нових ризиків, змін у галузі й досягнень у сфері ШІ.
Перегляньте наш короткий посібник з упровадження принципів SAIF.
- Крок 1 - Проаналізуйте використання
- Зрозумівши, які бізнес-проблеми допоможе вирішити ШІ і які дані потрібно зібрати для тренування моделей, ви зможете розробити й упровадити правила, протоколи та елементи керування в межах SAIF.
- Крок 2 - Сформуйте команду
- Розробка й розгортання систем на базі ШІ, як і традиційних систем, потребує багатопрофільного підходу.
- Системи на базі ШІ часто є складними й малозрозумілими, включають багато змінних елементів, використовують великі обсяги даних і потребують ресурсів. Крім того, за їх допомогою можуть прийматися упереджені рішення, створюватись образливий чи шкідливий контент і закріплюватися стереотипи й упередження в соціумі.
- Зберіть надійну багатофункціональну команду, щоб від самого початку враховувати питання безпеки, конфіденційності, ризиків і дотримання стандартів.
-
Крок 3 - Опануйте основи ШІ
- Оцінюючи використання для бізнесу, різноманітні труднощі, ризики й необхідні механізми безпеки, важливо, щоб команди розуміли основи життєвого циклу розробки моделей ШІ , структуру й логіку методологій моделей, зокрема їх можливості, переваги й обмеження.
-
Крок 4 - Застосуйте шість основних елементів SAIF
- Ці елементи не обов’язково впроваджувати в хронологічному порядку.
Стежте за новинами. Google створюватиме й поширюватиме ресурси, посібники та інструменти Secure AI Framework, а також інші оптимальні методи розробки додатків на основі ШІ.
Чому ми підтримуємо загальнодоступну спільноту прихильників безпечного ШІ
