Secure AI Framework (SAIF) da Google

Para a Google, é imperativo criar a IA de forma responsável e capacitar outros a fazer o mesmo. Os nossos princípios da IA , publicados em 2018, descrevem o nosso compromisso de desenvolver tecnologia de forma responsável e concebida em função da segurança, que permita a responsabilização e mantenha elevados padrões de excelência científica. A IA responsável é a nossa abordagem global, que tem várias dimensões, como "Imparcialidade", "Interpretabilidade", "Segurança" e "Privacidade", que orientam todo o desenvolvimento de produtos de IA da Google.

A SAIF é a nossa framework para a criação de uma abordagem padronizada e holística de integração de medidas de segurança e privacidade em aplicações com tecnologia de aprendizagem automática. Está alinhada com as dimensões "Segurança" e "Privacidade" da criação da IA de forma responsável. A SAIF garante que as aplicações com tecnologia de aprendizagem automática são desenvolvidas de forma responsável, tendo em conta a evolução do panorama de ameaças e das expetativas dos utilizadores.

A Google tem uma longa tradição de impulsionar o desenvolvimento da cibersegurança e da IA de forma responsável, e há muitos anos que tem mapeado as práticas recomendadas de segurança para a inovação da IA. A nossa Secure AI Framework é baseada no conjunto de experiências e práticas recomendadas que desenvolvemos e implementámos, e reflete a abordagem da Google para a criação de apps com tecnologia de IA generativa e aprendizagem automática, com proteções dinâmicas, sustentáveis e escaláveis para segurança e privacidade. Vamos continuar a evoluir e desenvolver a SAIF para fazer face a novos riscos, panoramas em mudança e avanços na IA.

Consulte o nosso guia rápido para implementar a framework SAIF:

• Passo 1 – Compreenda a utilização
  
  • Compreender o problema comercial específico que a IA vai resolver e os dados necessários para preparar o modelo vai ser útil para orientar a política, os protocolos e os controlos que têm de ser implementados como parte da SAIF.
• Passo 2 – Reúna a equipa
  
  • A programação e a implementação de sistemas de IA, tal como os sistemas tradicionais, são esforços multidisciplinares.
  • Os sistemas de IA são frequentemente complexos e opacos, incluem um grande número de variáveis, dependem de grandes quantidades de dados, consomem muitos recursos, podem ser usados para aplicar decisões baseadas em juízos de valor e podem gerar novo conteúdo que pode ser ofensivo, prejudicial ou perpetuar estereótipos e preconceitos sociais.
  • Crie a equipa multifuncional adequada para garantir que as considerações de segurança, privacidade, risco e conformidade são incluídas desde o início.

• Passo 3 – Estabeleça noções básicas com uma introdução à IA

  • À medida que as equipas iniciam a avaliação da utilização comercial, das várias complexidades em constante evolução, dos riscos e dos controlos de segurança aplicáveis, é fundamental que as partes envolvidas compreendam as noções básicas do ciclo de vida da programação do modelo de IA , o design e a lógica das metodologias do modelo, incluindo as capacidades, os méritos e as limitações.

• Passo 4 – Aplique os seis elementos fundamentais da SAIF

  • Estes elementos não se destinam a ser aplicados por ordem cronológica.

Mantenha-se a par de tudo! A Google vai continuar a criar e partilhar recursos, orientações e ferramentas da Secure AI Framework, bem como outras práticas recomendadas na programação da aplicação da IA.