‫Secure AI Framework‏ (SAIF) של Google

‫Google מחויבת לפתח AI באופן אחראי ולעודד גם גופים אחרים לפעול כך. עקרונות ה-AI שלנו, שפורסמו בשנת 2018, מתארים את המחויבות שלנו לפיתוח אחראי של טכנולוגיות באופן ששומר על הבטיחות, מאפשר אחריותיות ומציב רף גבוה של מצוינות מדעית. האתיקה של הבינה המלאכותית היא הגישה המקיפה שלנו שמכילה כמה היבטים כמו "יושר והגינות", "חיזוי תוצאות אפשריות", "אבטחה" ו"פרטיות". ההיבטים האלה משמשים כקווים מנחים בפיתוח של כל מוצרי Google AI.‏

‫SAIF היא המסגרת הרעיונית שלנו שנועדה ליצור גישה סטנדרטית ומקיפה לשילוב של אמצעים לשמירה על פרטיות ואבטחה בהטמעות שמבוססות על למידת מכונה. המסגרת הרעיונית מותאמת להיבטים "אבטחה" ו"פרטיות" במסגרת הפיתוח של AI באופן אחראי. בעזרת SAIF אפשר לוודא שפיתוח הטמעות של למידת מכונה מתבצע באופן אחראי, תוך התייחסות לציפיות של המשתמשים ולאיומים שהולכים וגדלים כל הזמן.

‫Google מובילה כבר הרבה שנים בפיתוח אבטחת סייבר ו-AI בצורה אחראית, ובהטמעה של שיטות מומלצות בנושאי אבטחה בטכנולוגיות AI חדשניות. זיקקנו את Secure AI Framework מתוך הניסיון שלנו והשיטות המומלצות שפיתחנו והטמענו. המסגרת הרעיונית הזאת משקפת את הגישה של Google לפיתוח אפליקציות שמבוססות על למידת מכונה ועל AI גנרטיבי, וכוללת אמצעים רספונסיביים, עמידים וניתנים להרחבה להגנה על האבטחה ועל הפרטיות. נמשיך לפתח את SAIF במטרה להתמודד עם סיכונים חדשים, סביבות משתנות ופיתוחים בתחום ה-AI.

כדאי לעיין במדריך הקצר שלנו להטמעת SAIF:

• שלב 1 – מבינים מה השימוש המיועד
  
  • כדי לקבוע באילו פרוטוקולים, מדיניות ואמצעי בקרה צריך להשתמש במסגרת SAIF, חשוב להבין מה הבעיה העסקית הספציפית שרוצים לפתור באמצעות ה-AI ואילו נתונים נדרשים לאימון המודל.
• שלב 2 – מרכיבים את הצוות
  
  • הפיתוח והפריסה של מערכות AI הם פעולות רב-תחומיות, ממש כמו במערכות מסורתיות.
  • בדרך כלל, מערכות AI הן מורכבות ומעורפלות, יש בהן מספר גדול של חלקים משתנים, הן מתבססות על כמויות גדולות של נתונים, הן צורכות הרבה משאבים, אפשר להשתמש בהן להטמעה של החלטות שמבוססות על שיפוט והן יכולות ליצור תוכן חדש שעלול להיות פוגעני או מזיק או שעלול להיתפס כסטריאוטיפ או הטיה חברתית.
  • מקימים צוות רב-תחומי מתאים כדי לוודא ששיקולי אבטחה, פרטיות, סיכון ותאימות נכללים מההתחלה.

• שלב 3 – קובעים את הבסיס עם מדריך למתחילים בנושא AI

  • בזמן שהצוותים מתחילים לבחון את השימוש העסקי ב-AI ואת המורכבויות, אמצעי הבקרה על האבטחה והסיכונים השונים והמתפתחים שרלוונטיים למצב – חשוב מאוד שהגורמים המעורבים יבינו את היסודות של סבבי הפיתוח של מודל ה-AI , ואת המבנה והלוגיקה של המתודולוגיות במודל, כולל היכולות, היתרונות והמגבלות.

• שלב 4 – מטמיעים את ‫6 יסודות הליבה של SAIF

  • אין צורך להטמיע את היסודות לפי סדר כרונולוגי.

כדאי להמשיך להתעדכן! ‫Google תמשיך לפתח ולשתף משאבים, מקורות מידע, הנחיות וכלים שקשורים ל-Secure AI Framework, וגם שיטות מומלצות אחרות לגבי פיתוח של פתרונות מבוססי-AI.