Marco para la IA Segura de Google (SAIF)

Google tiene el compromiso de desarrollar la IA de forma responsable y de animar a otros a hacer lo mismo. Nuestros principios para la IA , publicados en el 2018, describen nuestro compromiso con el desarrollo responsable de tecnología que tenga como base la seguridad, permita una responsabilidad proactiva y cumpla rigurosos estándares de excelencia científica. La IA responsable es nuestro enfoque global y cuenta con varias dimensiones, como "Equidad", "Interpretabilidad", "Seguridad" y "Privacidad", que guían todo el desarrollo de productos de IA de Google.

El SAIF es nuestro marco para crear un enfoque estandarizado y exhaustivo de la integración de medidas de seguridad y privacidad en aplicaciones basadas en aprendizaje automático. Está relacionado con las dimensiones de "Seguridad" y "Privacidad" del desarrollo de la IA de forma responsable. El SAIF asegura que las aplicaciones basadas en aprendizaje automático se desarrollen de forma responsable, teniendo en cuenta la evolución del panorama de las amenazas y las expectativas de los usuarios.

Google tiene un largo historial en el impulso del desarrollo responsable de la IA y la ciberseguridad, y llevamos muchos años adaptando las prácticas recomendadas de seguridad a las innovaciones en IA. Nuestro Marco para la IA Segura se basa en la experiencia y en las prácticas recomendadas que hemos desarrollado e implementado, y refleja el enfoque de Google para crear aplicaciones basadas en IA generativa y aprendizaje automático, con medidas de protección escalables, sostenibles y con capacidad de respuesta para la seguridad y la privacidad. Seguiremos desarrollando y perfeccionando el SAIF para hacer frente a nuevos riesgos, cambios en el entorno y avances en IA.

Consulta nuestra guía rápida para implementar el marco SAIF:

• Paso 1: Comprender el uso
  
  • Comprender el problema empresarial específico que resolverá la IA y los datos necesarios para entrenar el modelo ayudará a desarrollar la política, los protocolos y los controles que deben aplicarse como parte del SAIF.
• Paso 2: Crear el equipo
  
  • El desarrollo y la implementación de sistemas de IA, al igual que sucede con los sistemas tradicionales, son procesos que implican varias disciplinas.
  • Los sistemas de IA suelen ser complejos y opacos, tienen un gran número de piezas móviles, dependen de grandes cantidades de datos, consumen muchos recursos, pueden utilizarse para aplicar decisiones basadas en opiniones y pueden generar contenidos novedosos que pueden ser ofensivos, perjudiciales o perpetuar estereotipos y prejuicios sociales.
  • Se debe establecer el equipo multifuncional adecuado para asegurar que las consideraciones de seguridad, privacidad, riesgo y cumplimiento se incluyan desde el principio.

• Paso 3: Poner a todos de acuerdo con una presentación básica de la IA

  • A medida que los equipos se embarcan en la evaluación del uso empresarial, las diversas y cambiantes complejidades, los riesgos y los controles de seguridad aplicables, es fundamental que las partes implicadas comprendan los aspectos básicos del ciclo de vida de desarrollo de modelos de IA , el diseño y la lógica de las metodologías de los modelos, incluidas las capacidades, los méritos y las limitaciones.

• Paso 4: Aplicar los seis elementos clave del SAIF

  • No es necesario que estos elementos se apliquen en orden cronológico.

No te lo pierdas. Google seguirá creando y compartiendo recursos, directrices y herramientas del Marco para la IA Segura, junto con otras prácticas recomendadas para el desarrollo de aplicaciones de IA.