Langkau kepada Kandungan
Google Account
Google Account

Perisai biru dengan ikon G berwarna putih.

Rangka Kerja AI Selamat Google (SAIF)

Potensi AI, terutamanya AI generatif, adalah amat besar. Apabila inovasi semakin berkembang, industri memerlukan standard keselamatan untuk membangunkan dan menggunakan AI secara bertanggungjawab. Oleh hal yang demikian, kami memperkenalkan Rangka Kerja AI Selamat (SAIF), rangka kerja konsep untuk melindungi sistem AI.

Enam elemen teras SAIF

SAIF direka bentuk untuk menangani kebimbangan yang terlintas dahulu di fikiran untuk profesional keselamatan, seperti pengurusan risiko model AI/ML, keselamatan dan privasi — memastikan bahawa apabila model AI dilaksanakan, model itu selamat secara lalai.
Muat turun PDF

  • Luaskan asas keselamatan yang kukuh pada ekosistem AI

  • Lanjutkan pengesanan dan respons untuk menggunakan AI bagi mengatasi ancaman keseluruhan terhadap organisasi

  • Automasikan pertahanan agar sejajar dengan ancaman sedia ada dan ancaman baharu

  • Mengharmonikan kawalan peringkat platform untuk memastikan keselamatan yang konsisten merentas organisasi

  • Sesuaikan kawalan untuk melaraskan pengurangan dan membuat gelung maklum balas yang lebih pantas untuk penggunaan AI

  • Tentukan konteks risiko sistem AI dalam proses perniagaan yang berkaitan

Mendayakan ekosistem yang lebih selamat

Kami teruja untuk berkongsi langkah pertama dalam perjalanan kami untuk membina ekosistem SAIF merentas kerajaan, perniagaan dan organisasi untuk memajukan rangka kerja bagi penggunaan AI selamat yang berfungsi untuk semua orang.
Grafik yang menunjukkan grid berwarna merah jambu yang menghantar gesaan kepada skrin.

Memperkenalkan SAIF.Google: Keselamatan AI bermula di sini

SAIF.Google ialah hab sumber untuk membantu profesional keselamatan menavigasi landskap keselamatan AI yang berkembang. Hab ini menyediakan koleksi risiko dan kawalan keselamatan AI, termasuk “Laporan Penilaian Risiko Kendiri” untuk membimbing pengamal memahami risiko yang boleh melibatkan mereka dan cara melaksanakan SAIF dalam organisasi mereka. Sumber ini akan membantu usaha menangani keperluan penting untuk membina dan menggunakan sistem AI yang selamat dalam dunia AI yang berkembang pesat.
Bermula
Grafik buruj dengan perisai biru dan G putih pada bahagian tengah, dikelilingi oleh ikon bangunan, mangga kunci, profil, dunia dan dokumen.

Memperkenalkan SAIF kepada kerajaan dan organisasi

Kami bekerjasama dengan kerajaan dan organisasi untuk mengurangkan risiko keselamatan AI. Kerjasama kami dengan penggubal dasar dan organisasi standard, seperti NIST menyumbang kepada rangka kerja kawal selia yang semakin berkembang. Baru-baru ini, kami membuat sorotan tentang peranan SAIF untuk melindungi sistem AI, sejajar dengan komitmen AI Rumah Putih.
Logo syarikat teknologi dalam bulatan.

Gabungan untuk AI Selamat: Mengembangkan SAIF bersama sekutu industri

Kami sedang memajukan usaha ini dan memupuk sokongan industri dengan membentuk Coalition for Secure AI (CoSAI), bersama ahli pengasas seperti Anthropic, Cisco, GenLab, IBM, Intel, Nvidia dan PayPal, untuk menangani cabaran besar pelaksanaan sistem AI yang selamat.

Sumber tambahan

Soalan lazim
tentang SAIF

Bagaimanakah Google memanfaatkan SAIF?

Google mempunyai sejarah panjang yang mendorong pembangunan AI dan keselamatan siber yang bertanggungjawab serta kami telah memetakan amalan terbaik keselamatan kepada inovasi AI selama bertahun-tahun. Rangka Kerja AI Selamat kami disaring daripada pengalaman luas dan amalan terbaik yang telah kami bangunkan dan laksanakan serta mencerminkan pendekatan Google untuk membina apl dikuasakan ML dan AI generatif dengan perlindungan yang responsif, mampan dan boleh diskalakan untuk keselamatan dan privasi. Kami akan terus mengembangkan dan membina SAIF untuk menangani risiko baharu, landskap yang berubah-ubah dan kemajuan AI.

Bagaimanakah pengamal boleh melaksanakan rangka kerja itu?

Lihat panduan ringkas kami untuk melaksanakan rangka kerja SAIF:

  • Langkah 1 - Fahami penggunaan
    • Memahami masalah perniagaan tertentu yang akan diselesaikan oleh AI dan data yang diperlukan untuk melatih model, akan membantu untuk mendorong dasar, protokol dan kawalan yang perlu dilaksanakan sebagai sebahagian daripada SAIF.
  • Langkah 2 - Kumpulkan pasukan
    • Membangunkan dan menggunakan sistem AI, sama seperti sistem tradisional, adalah usaha pelbagai disiplin.
    • Sistem AI biasanya rumit dan sukar difahami, mengandungi sejumlah besar bahagian yang bergerak, bergantung pada sejumlah besar data, intensif sumber, boleh digunakan untuk membuat keputusan berdasarkan pertimbangan dan boleh menjana kandungan baharu yang mungkin menyinggung perasaan, berbahaya atau mengekalkan stereotaip dan kecenderungan sosial.
    • Bentuk pasukan rentas fungsi yang betul untuk memastikan bahawa pertimbangan keselamatan, privasi, risiko dan pematuhan disertakan dari awal.

  • Langkah 3 - Tahap ditetapkan dengan primer AI

    • Apabila pasukan memulakan penilaian untuk penggunaan perniagaan, kerumitan yang pelbagai dan semakin berkembang serta risiko dan kawalan keselamatan yang digunakan - pihak yang terlibat perlu memahami asas kitaran hayat pembangunan model AI , reka bentuk dan logik metodologi model, termasuk keupayaan, merit dan pengehadan.

  • Langkah 4 - Gunakan enam elemen teras SAIF

    • Elemen ini tidak perlu digunakan mengikut urutan.

Di manakah saya boleh mendapatkan maklumat lanjut tentang SAIF dan bagaimanakah cara menggunakan SAIF pada perniagaan atau entiti saya?

Harap bersabar! Google akan terus membangunkan dan berkongsi sumber, panduan dan alatan Rangka Kerja AI Selamat, bersama-sama amalan terbaik lain dalam pembangunan aplikasi AI.

Sebab kami menyokong komuniti AI yang selamat untuk semua orang

Sebagai salah satu syarikat pertama yang menjelaskan prinsip Al, kami telah menetapkan standard untuk Al bertanggungjawab dan standard ini memberikan panduan tentang keselamatan untuk pembangunan produk kami. Kami telah menyokong dan membangunkan rangka kerja industri untuk meningkatkan bar keselamatan dan sedar bahawa pembinaan komuniti untuk memastikan kesinambungan kerja tersebut adalah penting untuk mencapai kejayaan dalam jangka masa panjang. Itulah sebabnya kami teruja untuk membina komuniti SAIF untuk semua orang.