Secure AI Framework (SAIF) της Google
Το δυναμικό του AI, και ειδικότερα του generative AI, είναι τεράστιο. Με την πρόοδο της καινοτομίας, ο κλάδος χρειάζεται πρότυπα ασφαλείας για υπεύθυνη δημιουργία και ανάπτυξη του AI. Για τον λόγο αυτό, παρουσιάσαμε το Secure AI Framework (SAIF), ένα εννοιολογικό πλαίσιο για τη διασφάλιση των συστημάτων AI.
Το SAIF σχεδιάστηκε για την αντιμετώπιση των κύριων προβληματισμών των επαγγελματιών ασφαλείας, όπως είναι η διαχείριση κινδύνου, η ασφάλεια και το απόρρητο όσον αφορά μοντέλα AI / μηχανικής μάθησης, και συμβάλλει ώστε να διασφαλίζεται ότι, όταν υλοποιούνται μοντέλα AI, είναι ασφαλή από προεπιλογή.
Με μεγάλη χαρά μοιραζόμαστε τα πρώτα βήματα στην πορεία μας για τη δημιουργία ενός οικοσυστήματος SAIF μεταξύ κυβερνήσεων, επιχειρήσεων και οργανισμών, για την προώθηση ενός πλαισίου για ασφαλή ανάπτυξη AI που λειτουργεί για όλους.
Παροχή του SAIF σε κυβερνήσεις και οργανισμούς
Συνεργαζόμαστε με κυβερνήσεις και οργανισμούς για τον περιορισμό των κινδύνων ασφάλειας που σχετίζονται με το AI. Η συνεργασία μας με υπευθύνους χάραξης πολιτικής και οργανισμούς προτύπων, όπως το NIST (Εθνικό Ινστιτούτο Προτύπων και Τεχνολογίας), συμβάλλει στα εξελισσόμενα ρυθμιστικά πλαίσια. Πρόσφατα αναδείξαμε τον ρόλο του SAIF στη διασφάλιση συστημάτων AI, σε συμφωνία με τις δεσμεύσεις του Λευκού Οίκου σχετικά με το AI.
Επέκταση του SAIF με συμμάχους του κλάδου
Καλλιεργούμε την υποστήριξη του κλάδου για το SAIF με τους συνεργάτες και τους πελάτες μας, διοργανώνουμε σεμινάρια σχετικά με το SAIF με επαγγελματίες του χώρου και δημοσιεύουμε βέλτιστες πρακτικές ασφάλειας όσον αφορά το AI. Συνεργαστήκαμε με την Deloitte σε μια λευκή βίβλο σχετικά με το πώς οι οργανισμοί μπορούν να χρησιμοποιούν το AI για να αντιμετωπίζουν προκλήσεις που αφορούν την ασφάλεια.
-
Βελτίωση ασφάλειας AI: Google AI Red Team
Εξερευνήστε πώς η ομάδα Google AI Red Team, με τη βοήθεια προηγμένων τακτικών, βελτιώνει την ασφάλεια για συστήματα AI. Ανακαλύψτε σημαντικά insights και μαθήματα στην πιο πρόσφατη αναφορά μας.
-
Διασφάλιση συστημάτων AI με τη Mandiant
Η Mandiant προωθεί την προληπτική ενσωμάτωση της ασφάλειας στα συστήματα AI, σε συμμόρφωση με το SAIF για ισχυρή προστασία.
-
Android: Οδηγίες ασφαλούς ανάπτυξης
Διασφαλίστε τον οργανισμό σας με τις ειδοποιήσεις ευπάθειας του Android σε πραγματικό χρόνο και ακολουθήστε τις οδηγίες ασφαλούς ανάπτυξης για κώδικα μηχανικής μάθησης.
-
Διασφάλιση του AI με το Google Cloud
Το Google Cloud προσφέρει ένα επιμελημένο σύνολο πόρων που επικεντρώνονται στην κυβερνοασφάλεια, την ανάπτυξη συστημάτων AI, τη διαχείριση κινδύνου και τον ασφαλή μετασχηματισμό, που είναι απαραίτητα για διοικητικά συμβούλια.
Πώς σχετίζεται το SAIF με την υπεύθυνη χρήση AI;
Η Google έχει καθήκον την υπεύθυνη δημιουργία AI και την ενδυνάμωση άλλων προς την ίδια κατεύθυνση. Οι Αρχές AI, που δημοσιεύσαμε το 2018, περιγράφουν τη δέσμευσή μας για υπεύθυνη ανάπτυξη τεχνολογίας με τρόπο σχεδιασμένο για ασφάλεια, που υποστηρίζει την υπευθυνότητα και τηρεί υψηλά πρότυπα επιστημονικής αριστείας. Η υπεύθυνη χρήση AI είναι η κυρίαρχη προσέγγισή μας που περιλαμβάνει πολλές πτυχές, όπως "Δίκαιη μεταχείριση", "Ερμηνευσιμότητα", "Ασφάλεια" και "Απόρρητο", που καθοδηγούν το σύνολο της ανάπτυξης προϊόντων Google AI.
Το SAIF είναι το πλαίσιό μας για τη δημιουργία προτυποποιημένης και ολιστικής προσέγγισης στην ενσωμάτωση μέτρων ασφάλειας και απορρήτου στις εφαρμογές με υποστήριξη μηχανικής μάθησης. Συμβαδίζει με τις πτυχές ασφάλειας και απορρήτου της υπεύθυνης δημιουργίας AI. Το SAIF εξασφαλίζει ότι οι εφαρμογές με υποστήριξη μηχανικής μάθησης αναπτύσσονται με υπευθυνότητα, ενώ λαμβάνονται υπόψη οι εξελισσόμενες απειλές και οι προσδοκίες των χρηστών.
Πώς εφαρμόζει η Google το SAIF;
Η Google έχει μακρύ ιστορικό στην προώθηση της υπεύθυνης ανάπτυξης AI και κυβερνοασφάλειας και, εδώ και πολλά χρόνια, χαράσσουμε βέλτιστες πρακτικές για την καινοτομία όσον αφορά το AI. Το Secure AI Framework αποτελεί το απόσταγμα της πείρας μας και των βέλτιστων πρακτικών που έχουμε αναπτύξει και υλοποιήσει και αντικατοπτρίζει την προσέγγιση της Google για τη δημιουργία εφαρμογών με υποστήριξη μηχανικής μάθησης και gen AI, με αποκριτικά, βιώσιμα και επεκτάσιμα μέτρα προστασίας για την ασφάλεια και το απόρρητο. Θα συνεχίσουμε να εξελίσσουμε και να αναπτύσσουμε το SAIF για να αντιμετωπίζουμε νέους κινδύνους, μεταβαλλόμενα τοπία και εξελίξεις στον τομέα του AI.
Πώς μπορούν οι επαγγελματίες του χώρου να υλοποιήσουν το πλαίσιο;
Ανατρέξτε στον σύντομο οδηγό μας για την υλοποίηση του πλαισίου SAIF:
-
Βήμα 1– Κατανόηση της χρήσης
- Η κατανόηση του συγκεκριμένου επιχειρηματικού προβλήματος που θα λύσει το AI και των δεδομένων που χρειάζονται για την εκπαίδευση του μοντέλου θα συμβάλει στη διαμόρφωση της πολιτικής, των πρωτοκόλλων και των στοιχείων ελέγχου που πρέπει να υλοποιηθούν στο πλαίσιο του SAIF.
-
Βήμα 2 – Συγκέντρωση της ομάδας
- Η δημιουργία και η ανάπτυξη συστημάτων AI είναι, όπως και για τα παραδοσιακά συστήματα, προσπάθειες που συνδυάζουν πολλά διαφορετικά πεδία.
- Τα συστήματα AI συχνά είναι περίπλοκα και αδιαφανή, περιλαμβάνουν μεγάλο αριθμό μεταβλητών, βασίζονται σε μεγάλους όγκους δεδομένων, χρησιμοποιούν πολλούς πόρους, μπορούν να χρησιμοποιηθούν για την εφαρμογή αποφάσεων βάσει κρίσης και μπορούν να δημιουργήσουν νέο περιεχόμενο το οποίο δύναται να είναι προσβλητικό, επιβλαβές ή να διαιωνίζει στερεότυπα και κοινωνικές προκαταλήψεις.
- Δημιουργήστε την κατάλληλη ομάδα από διαφορετικά πεδία, ώστε να εξαφαλίσετε ότι ζητήματα ασφάλειας, απορρήτου, κινδύνου και συμμόρφωσης θα ληφθούν υπόψη από την αρχή.
-
Βήμα 3 – Προετοιμασία με βασικές γνώσεις σχετικά με το AI
- Καθώς οι ομάδες ξεκινούν την αξιολόγηση της επιχειρηματικής χρήσης, των διαφορετικών και εξελισσόμενων δυσκολιών, κινδύνων και κατάλληλων στοιχείων ελέγχου ασφαλείας, είναι ζωτικής σημασίας οι εμπλεκόμενοι να κατανοούν τις βασικές έννοιες του κύκλου ζωής ανάπτυξης μοντέλων AI, τη σχεδίαση και τη λογική των μεθοδολογιών των μοντέλων, συμπεριλαμβανομένων των δυνατοτήτων, των προσόντων και των περιορισμών.
-
Βήμα 4 – Υλοποίηση των έξι βασικών στοιχείων του SAIF (που αναφέρονται παραπάνω)
- Αυτά τα στοιχεία δεν προορίζονται για υλοποίηση με χρονολογική σειρά.
Πού μπορώ να βρω περισσότερες πληροφορίες σχετικά με το SAIF και τον τρόπο να το εφαρμόσω στην επιχείρηση ή τον οργανισμό μου;
Μείνετε συντονισμένοι! Η Google θα συνεχίσει να αναπτύσσει και να μοιράζεται πόρους, οδηγίες και εργαλεία του Secure AI Framework, καθώς και άλλες βέλτιστες πρακτικές για την ανάπτυξη εφαρμογών AI.
Ως μία από τις πρώτες εταιρείες που διατύπωσε αρχές Al, θέσαμε το πρότυπο για την υπεύθυνη χρήση Al. Αυτό καθοδηγεί την ανάπτυξη των προϊόντων μας με γνώμονα την ασφάλεια. Υποστηρίξαμε και δημιουργήσαμε πλαίσια του κλάδου για να ανεβάσουμε τον πήχη στην ασφάλεια και μάθαμε ότι η δημιουργία κοινότητας για την εξέλιξη του έργου είναι απαραίτητη για μακροπρόθεσμη επιτυχία. Γι' αυτό, είναι χαρά μας να δημιουργήσουμε μια κοινότητα SAIF για όλους.
Μάθετε με ποιον τρόπο προστατεύουμε περισσότερα άτομα στο διαδίκτυο από κάθε άλλον στον κόσμο.