Aprende cómo integrar las prácticas de Responsible AI en el flujo de trabajo de AA con TensorFlow
TensorFlow se compromete a ayudar al desarrollo responsable de la IA con la iniciativa de compartir un conjunto de recursos y herramientas con la comunidad de AA.
¿Qué es Responsible AI?
El desarrollo de la IA está generando nuevas oportunidades para resolver problemas complejos del mundo real. Además, está generando nuevas preguntas sobre la mejor forma de compilar sistemas de IA beneficiosos para todas las personas.
Prácticas recomendadas para la IA
El diseño de los sistemas de IA debe cumplir con las prácticas recomendadas para el desarrollo de software y aplicar un
enfoque de la AA centrado en las personas
Equidad
Debido a que el impacto de la IA aumenta en todos los sectores y sociedades, es de suma importancia trabajar para lograr sistemas equitativos que incluyan a todas las personas
Interpretabilidad
Es importante comprender y confiar en los sistemas de IA para asegurarse de que funcionen correctamente
Privacidad
Para entrenar modelos por medio del uso de datos sensibles es necesario proteger y preservar la privacidad
Seguridad
Identificar posibles amenazas sirve para mantener los sistemas de IA seguros y protegidos
Responsible AI en el flujo de trabajo de AA
Se pueden incorporar las prácticas de Responsible AI en cada paso del flujo de trabajo de AA. A continuación se incluyen algunas preguntas clave que deben tenerse en cuenta en cada etapa.
¿A quién está dirigido mi sistema de AA?
La forma en que los usuarios reales experimentan el sistema es fundamental para evaluar el verdadero impacto de sus predicciones, recomendaciones y decisiones. Asegúrate de obtener entradas de un conjunto de usuarios diverso al comienzo del proceso de desarrollo.
¿Estoy usando una conjunto de datos representativo?
¿El muestreo de datos representa a los usuarios? (p. ej. se utilizará para todas las edades, pero solo tienes datos de entrenamiento sobre adultos mayores).¿El muestreo representa escenarios de la vida real? (p. ej. se utilizará para todo el año, pero solo hay datos de entrenamiento sobre el verano).
¿Hay algún sesgo del mundo real o humano en mis datos?
Es posible que los sesgos subyacentes en los datos contribuyan a ciclos de reacción complejos que acentúen los estereotipos existentes.
¿Qué métodos debería utilizar para entrenar mi modelo?
Usa métodos de entrenamiento que generen equidad, interpretabilidad, privacidad y seguridad en el modelo.
¿Cuál es el rendimiento de mi modelo?
Evalúa la experiencia del usuario en escenarios de la vida real según los tipos de usuarios, casos y contextos de uso. Primero ensaya y realiza iteraciones mediante pruebas internas; luego haz pruebas de forma constante después del lanzamiento.
¿Hay ciclos de reacción complejos?
Incluso si se pensó minuciosamente cada detalle del diseño del sistema en general, los modelos basados en el AA pocas veces funcionan con una efectividad absoluta cuando se aplican a datos reales y en tiempo real. Si surge algún problema con un producto en uso, evalúa si muestra alguna desventaja social existente y el impacto que tendrán en el producto las soluciones a corto y largo plazo.
Herramientas de Responsible AI para TensorFlow
El ecosistema de TensorFlow cuenta con un conjunto de herramientas y recursos para ayudar a resolver algunas de las preguntas anteriores.
Define el problema
Usa los siguientes recursos para diseñar modelos teniendo en cuenta el Responsible AI.
Obtén más información sobre el proceso de desarrollo de IA y las consideraciones clave.
Usa visualizaciones interactivas para explorar preguntas y conceptos clave del campo de la Responsible AI.
Construye y prepara datos
Usa las siguientes herramientas para examinar los datos a fin de encontrar posibles sesgos.
Analiza y transforma datos para detectar problemas y diseñar conjuntos de atributos más eficaces.
Compila y entrena un modelo
Usa las siguientes herramientas para entrenar modelos, a la vez que preservas la privacidad, usas técnicas interpretables y mucho más.
Train machine learning models to promote more equitable outcomes.
Usa técnicas de aprendizaje federado para entrenar modelos de aprendizaje automático.
Implementa modelos flexibles, interpretables y controlados basados en cuadrículas.
Evalúa el modelo
Usa las siguientes herramientas para depurar, evalar y visualizar el funcionamiento del modelo.
Evalúa las métricas de equidad que se identifican de manera habitual para clasificadores binarios y de clase múltiple.
Evalúa modelos de forma distribuida y procesa diferentes segmentos de datos.
Desarrolla modelos de aprendizaje automático que sean interpretables e inclusivos.
Evalúa las propiedades de privacidad de los modelos de clasificación.
Implementa y supervisa
Usa las siguientes herramientas para rastrear y comunicar el contexto y los detalles del modelo.
Usa el kit de herramientas Model Card para generar tarjetas de modelos con facilidad.
Registra y recupera metadatos asociados con flujos de trabajo de desarrolladores de AA y científicos de datos.
Organiza los datos fundamentales sobre aprendizaje automático de forma estructurada.
Community resources
Obtén información sobre lo que hace la comunidad y conoce formas de participar.
Ayuda a que los productos de Google sean más inclusivos y representen mejor tu lenguaje, región y cultura.
We asked participants to use TensorFlow 2.2 to build a model or application with Responsible AI principles in mind. Check out the gallery to see the winners and other amazing projects.
Presentación de un marco de trabajo para reflexionar sobre el AA, la equidad y la privacidad.