‫Secure AI Framework של Google‏
(SAIF)

‫Google רואה חשיבות לפתח AI באופן אחראי ולעודד גם גופים אחרים לפעול כך. עקרונות ה-AI שלנו, שפורסמו בשנת 2018, מתארים את המחויבות שלנו לפיתוח אחראי של טכנולוגיות באופן ששומר על הבטיחות, מאפשר אחריותיות ועומד בסטנדרטים גבוהים של מצוינות מדעית. האתיקה של הבינה המלאכותית היא הגישה המקיפה שלנו שמורכבת מכמה היבטים, כמו 'יושר והגינות', 'חיזוי תוצאות אפשריות', 'אבטחה' ו'פרטיות'. ההיבטים האלה משמשים כקווים מנחים בפיתוח של כל מוצרי ה-AI מבית Google.

‫SAIF היא המסגרת הרעיונית שלנו שנועדה ליצור גישה סטנדרטית ומקיפה לשילוב של אמצעים לשמירה על פרטיות ואבטחה בהטמעות שמבוססות על למידת מכונה. המסגרת הרעיונית מותאמת להיבטים 'אבטחה' ו'פרטיות' במסגרת הפיתוח של AI באופן אחראי. בעזרת SAIF אפשר לוודא שפיתוח הטמעות של למידת מכונה מתבצע באופן אחראי, תוך התייחסות לציפיות של המשתמשים ולאיומים שהולכים וגדלים כל הזמן.

ל-Google יש היסטוריה ארוכה של פיתוח אחראי של אבטחת סייבר ו-AI, ובמשך שנים רבות מיפינו שיטות מומלצות בנושאי אבטחה ליוזמות חדשות בתחום ה-AI. זיקקנו את Secure AI Framework מתוך הניסיון שלנו והשיטות המומלצות שפיתחנו ויישמנו. המסגרת הרעיונית משקפת את הגישה של Google לגבי פיתוח אפליקציות שמבוססות על למידת מכונה ועל AI גנרטיבי, וכוללת אמצעי הגנה על אבטחה ופרטיות. האמצעים האלה רספונסיביים, בני קיימא וניתנים להתאמה. נמשיך לפתח את SAIF במטרה להתמודד עם סיכונים חדשים, סביבות משתנות ופיתוחים בתחום ה-AI.

כדאי לעיין במדריך המהיר שלנו להטמעה של SAIF:

• שלב 1 – מבינים מה השימוש המיועד
  • כדי לקבוע אילו פרוטוקולים, מדיניות ואמצעי בקרה צריך ליישם במסגרת SAIF, חשוב להבין מהי הבעיה העסקית הספציפית שרוצים לפתור באמצעות ה-AI ואילו נתונים נדרשים לאימון המודל.
• שלב 2 – מרכיבים את הצוות
  • הפיתוח והפריסה של מערכות AI הם פעולות רב-תחומיות, ממש כמו במערכות מסורתיות.
  • בדרך כלל, מערכות AI הן מורכבות ומעורפלות, יש בהן מספר גדול של חלקים משתנים, הן מתבססות על כמויות גדולות של נתונים, הן צורכות הרבה משאבים, אפשר להשתמש בהן ליישום של החלטות שמבוססות על שיפוט והן יכולות ליצור תוכן חדש שעלול להיות פוגעני או מזיק או שעלול להיתפס כסטריאוטיפ או הטיה חברתית.
  • חשוב להרכיב צוות מתאים עם פונקציות שונות, כדי לוודא שהשיקולים הקשורים לאבטחה, לפרטיות, וסיכונים ולתאימות נכללים כבר מההתחלה.
• שלב 3 – מיישרים קו בעזרת הנחיות בסיסיות בנושא AI
  • בזמן שהצוותים מתחילים לבחון את השימוש העסקי ואת המורכבויות, אמצעי הבקרה על האבטחה והסיכונים השונים והמתפתחים שרלוונטיים למצב – חשוב מאוד שהגורמים המעורבים יבינו את היסודות של סבבי הפיתוח של מודל ה-AI, ואת המבנה והלוגיקה של המתודולוגיות במודל, כולל היכולות, היתרונות והמגבלות.
• שלב 4 – מיישמים את 6 יסודות הליבה של SAIF (מפורטים למעלה)
  • אין צורך ליישם את היסודות לפי סדר כרונולוגי.

כדאי להמשיך להתעדכן! ‫Google תמשיך לפתח ולשתף משאבים, מקורות מידע, הנחיות וכלים שקשורים ל-Secure AI Framework, וגם שיטות מומלצות אחרות לגבי פיתוח של פתרונות מבוססי-AI.