Secure AI Framework
(SAIF) de la Google

Potențialul AI, mai ales al AI-ului generativ, este imens. Odată cu inovarea, industria are nevoie de standarde de securitate pentru dezvoltarea și implementarea inteligenței artificiale în mod responsabil. De aceea am lansat Secure AI Framework (SAIF), un cadru conceptual pentru securizarea sistemelor AI.

Elementele cadrului SAIF Crearea unui ecosistem mai sigur Întrebări frecvente
Șase elemente de bază ale SAIF

SAIF a fost creat pentru a soluționa principalele probleme ale specialiștilor în securitate, cum ar fi managementul riscurilor legate de modelele AI / ML, securitatea și confidențialitatea, pentru a garanta că modelele AI sunt securizate în mod prestabilit la implementare.

Extinde fundamentele securității sporite la ecosistemul AI
Extinde detectarea și răspunsul pentru a înfrunta amenințările pentru organizație pe care le reprezintă AI
Automatizează protecțiile pentru a ține pasul cu amenințările existente și cele noi
Armonizează opțiunile la nivel de platformă pentru a asigura securitate consecventă pentru întreaga organizație
Adaptează opțiunile pentru a ajusta atenuările și creează bucle de feedback mai rapide pentru implementarea AI
Contextualizează riscurile sistemelor AI în procesele companiilor
Descarcă fișierul PDF
Crearea unui ecosistem
mai sigur

Suntem încântați să vorbim despre primii pași ai procesului nostru de creare a unui ecosistem SAIF pentru instituții guvernamentale, companii și organizații cu scopul de a dezvolta un cadru pentru implementare AI securizată care funcționează pentru toată lumea.

Punem SAIF la dispoziția instituțiilor guvernamentale și organizațiilor

Colaborăm cu instituții guvernamentale și organizații pentru a reduce riscurile de securitate asociate cu AI. Colaborarea noastră cu factori de decizie și organizații care definesc standarde, cum ar fi NIST, contribuie la cadrele de reglementare în continuă schimbare. Am evidențiat recent rolul cadrului SAIF în securizarea sistemelor AI, în conformitate cu angajamentele privind AI ale Casei Albe.

Extindem cadrul SAIF cu ajutorul aliaților din industrie

Ne bucurăm de susținere în industrie pentru cadrul SAIF din partea partenerilor și a clienților, organizând workshopuri despre SAIF cu specialiști și publicând recomandări privind securitatea AI. Am încheiat un parteneriat cu Deloitte pentru a elabora o documentație despre modul în care organizațiile pot folosi AI pentru a gestiona problemele de securitate.

Resurse suplimentare
  • Îmbunătățirea securității AI: echipa roșie pentru AI de la Google

    Descoperă modul în care echipa roșie pentru AI de la Google, echipată cu tehnologii de ultimă generație, îmbunătățește securitatea sistemelor AI. Descoperă informații esențiale și lecții în cel mai recent raport.

    Află mai multe
  • Securizarea sistemelor AI cu Mandiant

    Mandiant recomandă integrarea securității proactive în sistemele AI pentru alinierea la SAIF în scopul obținerii unei protecții eficiente.

    Află mai multe
  • Android: reguli privind dezvoltarea securizată

    Securizează-ți organizația cu alertele de vulnerabilitate în timp real de la Android și respectă regulile privind dezvoltarea securizată pentru codul de învățare automată.

    Află mai multe
  • Securizarea AI cu Google Cloud

    Google Cloud oferă o serie de resurse recomandate care se axează pe securitatea cibernetică, implementarea sistemelor AI, guvernanța riscurilor și transformarea securizată, esențiale pentru consiliile de administrație.

    Află mai multe
Întrebări frecvente despre SAIF

Care este legătura dintre SAIF și AI-ul responsabil?

Pentru Google este foarte important să dezvolte AI în mod responsabil și să le dea altora posibilitatea să facă același lucru. Principiile privind AI, publicate în 2018, descriu angajamentul nostru de a dezvolta tehnologii într-un mod responsabil și într-o manieră care este creată pentru siguranță, promovează răspunderea și respectă standarde înalte de excelență științifică. AI-ul responsabil este abordarea noastră cuprinzătoare care are mai multe atribute, cum ar fi Echitatea, Interpretabilitatea, Securitatea și Confidențialitatea, care ghidează toate procesele Google de dezvoltare a produselor cu AI.

SAIF este cadrul nostru pentru crearea unei abordări standardizate și holistice privind integrarea măsurilor de securitate și confidențialitate în aplicații bazate pe învățare automată. Se aliniază atributelor Securitate și Confidențialitate pentru dezvoltarea AI-ului în mod responsabil. SAIF garantează că aplicațiile bazate pe învățare automată sunt dezvoltate în mod responsabil, ținând cont de ecosistemul în continuă schimbare al amenințărilor și de așteptările utilizatorilor.

Cum aplică Google SAIF?

Google dezvoltă de mult timp AI-ul și securitatea cibernetică responsabile și face de mulți ani recomandări privind securitatea pentru noi inovații în materie de AI. Secure AI Framework are la bază experiența și cele mai bune practici pe care le-am dezvoltat și implementat și reflectă abordarea companiei Google în ceea ce privește dezvoltarea aplicațiilor bazate pe învățare automată și AI generativ, cu protecții adaptabile, sustenabile și scalabile pentru securitate și confidențialitate. Vom continua să îmbunătățim și să dezvoltăm cadrul SAIF pentru a gestiona noi riscuri, contexte în continuă schimbare și progrese din domeniul AI.

Cum pot specialiștii să implementeze cadrul?

Consultă ghidul rapid de implementare a cadrului SAIF.

  • Pasul 1 – Înțelege cum se folosește
    • Înțelegerea problemei companiilor pe care o va rezolva AI și a datelor necesare pentru a instrui modelul va ajuta la crearea politicii, a protocoalelor și a măsurilor de control care trebuie implementate în cadrul SAIF.
  • Pasul 2 – Formează echipa
    • Dezvoltarea și implementarea sistemelor AI, la fel ca în cazul sistemelor tradiționale, sunt acțiuni multidisciplinare.
    • Sistemele AI sunt adesea complexe și opace, au multe componente variabile, se bazează pe volume mari de date, necesită multe resurse, pot fi folosite pentru a aplica decizii bazate pe raționament și pot să genereze conținut nou care poate fi jignitor, dăunător sau poate perpetua stereotipuri și prejudecăți sociale.
    • Formează echipa multifuncțională potrivită pentru a te asigura că ții cont de la bun început de considerentele legate de securitate, confidențialitate, risc și conformitate.
  • Pasul 3 – Familiarizează-te cu noțiunile de bază despre AI
    • Când echipele încep să evalueze modul de utilizare pentru companie, complexitățile, riscurile și măsurile de securitate diverse și în continuă schimbare aplicabile, este esențial ca părțile implicate să înțeleagă elementele de bază ale ciclului de dezvoltare a modelelor AI, structura și logica metodologiilor pentru modele, inclusiv capabilități, beneficii și limitări.
  • Pasul 4 – Aplică cele șase elemente de bază ale SAIF (enumerate mai sus)
    • Nu este necesar ca aceste elemente să fie aplicate în ordine cronologică.

Unde pot să găsesc mai multe informații despre SAIF și modul în care îl pot aplica pentru compania sau entitatea mea?

Urmărește-ne în continuare! Google va continua să creeze și să ofere resurse, îndrumări și instrumente asociate cu Secure AI Framework, precum și alte recomandări privind dezvoltarea aplicațiilor bazate pe AI.

De ce promovăm o comunitate AI securizată pentru toată lumea

Întrucât ne numărăm printre primele companii care au vorbit despre principiile privind AI, am impus standardul pentru AI-ul responsabil. Acesta ne îndrumă în procesul de dezvoltare a produselor pentru siguranță. Susținem și dezvoltăm cadre în industrie pentru a ridica ștacheta în ceea ce privește securitatea și am învățat că pentru a avea succes pe termen lung este esențial să creăm o comunitate pentru a ne susține demersurile. De aceea suntem încântați să construim o comunitate bazată pe SAIF pentru toată lumea.

Progrese în securitatea cibernetică

Află cum protejăm mai mulți utilizatori în mediul online decât orice altă companie din lume.

Află mai multe