Saiba como integrar as práticas da AI Responsible ao seu fluxo de trabalho de ML usando o TensorFlow

O TensorFlow tem o compromisso de fazer progresso no desenvolvimento responsável da IA compartilhando recursos e ferramentas com a comunidade de ML.

O que é a IA Responsible?

O desenvolvimento da IA está criando novas oportunidades para resolver problemas desafiadores do mundo real. Também está levantando novas perguntas sobre a melhor maneira de desenvolver sistemas de IA úteis para todo mundo.

Práticas recomendadas para IA

A criação de sistemas de IA precisa seguir as práticas recomendadas de desenvolvimento de software e uma
abordagem em relação ao ML centrada nas pessoas

Imparcialidade

Conforme o impacto da IA aumenta em vários setores e na sociedade, é fundamental trabalhar para que os sistemas sejam imparciais e inclusivos

Interpretabilidade

Entender e confiar em sistemas de IA é importante para garantir que eles funcionem conforme o esperado

Privacidade

O treinamento de modelos com dados confidenciais exige salvaguardas para a preservação de privacidade

Segurança

Identificar possíveis ameaças pode ajudar a manter os sistemas de IA seguros e protegidos

Responsible AI em seu fluxo de trabalho de ML

Práticas da Responsible AI podem ser integradas em todas as etapas do seu fluxo de trabalho de ML. Veja algumas perguntas importantes a serem consideradas em cada fase.

Para quem é o meu sistema de ML?

A experiência dos usuários reais no seu sistema é essencial para avaliar o verdadeiro impacto das previsões, recomendações e decisões. Verifique se você recebeu informações de um grupo diverso de usuários desde o início do processo de desenvolvimento.

Estou usando um conjunto de dados representativo?

As amostras de dados representam os usuários (por exemplo, serão usadas para todas as idades, mas você só tem dados de treinamento sobre idosos) e o mundo real (por exemplo, serão usadas o ano todo, mas você só tem dados de treinamento do verão)?

Há um viés humano ou real nos dados?

Vieses nos dados podem contribuir para feedback loops complexos que reforçam os estereótipos existentes.

Quais métodos devo usar para treinar meu modelo?

Use métodos de treinamento que desenvolvam a imparcialidade, a interpretabilidade, a privacidade e a segurança do modelo.

Como está o desempenho do meu modelo?

Avalie a experiência do usuário em cenários reais para diversos usuários, casos e contextos de uso. Teste e repita os testes na versão dogfood primeiro e continue a testar após o lançamento.

Há feedback loops complexos?

Mesmo que todo o design do sistema seja cuidadosamente elaborado, modelos baseados em ML raramente funcionam com 100% de perfeição quando aplicados a dados de verdade e em tempo real. Quando ocorre um problema em um produto em tempo real, confira se ele se relaciona a desvantagens sociais existentes e como será afetado por soluções de curto e longo prazo.

Ferramentas de Responsible AI para o TensorFlow

O ecossistema do TensorFlow tem um pacote de ferramentas e recursos para ajudar a solucionar algumas das perguntas acima.

Etapa 1

Definir o problema

Use os recursos a seguir para projetar modelos com Responsible AI em mente.

People + AI Research (PAIR) Guidebook

Saiba mais sobre o processo de desenvolvimento de IA e as principais considerações.

PAIR Explorables

Descubra os principais conceitos e perguntas sobre a Responsible AI em visualizações interativas.

Etapa 2

Criar e preparar os dados

Use as ferramentas a seguir para examinar possíveis vieses em dados.

Know Your Data (Beta)

Investigue interativamente seu conjunto de dados para melhorar a qualidade dos dados e mitigar problemas de imparcialidade e viés.

TF Data Validation

Analise e transforme os dados para detectar problemas e criar conjuntos de atributos mais eficientes.

Data Cards

Crie um relatório de transparência para seu conjunto de dados.

Monk Skin Tone Scale (MST)

Uma escala de tons de pele mais inclusiva, com licença aberta, para tornar sua coleção de dados e construção de modelos mais sólidos e inclusivos.

Etapa 3

Crie e treine o modelo

Use as seguintes ferramentas para treinar modelos usando técnicas interpretáveis que preservam a privacidade e muito mais.

TF Model Remediation

Treine modelos de machine learning para promover resultados mais equitativos.

TF Privacy

Treine modelos de machine learning com privacidade.

TF Federated

Treine modelos de machine learning usando técnicas de federated learning.

TF Constrained Optimization

Otimize problemas de limitação por desigualdade.

TF Lattice

Implemente modelos controlados e interpretáveis baseados em reticulados.

Etapa 4

Avaliar o modelo

Depure, avalie e visualize o desempenho do modelo usando as seguintes ferramentas.

Indicadores de imparcialidade

Avalie métricas de imparcialidade frequentemente identificadas para classificadores binários e multiclasse.

TF Model Analysis

Avalie modelos de maneira distribuída e faça cálculos em diferentes partes de dados.

What-If Tool

Examine, avalie e compare modelos de machine learning.

Language Interpretability Tool

Visualize e entenda modelos de PLN.

Explainable AI

Desenvolva modelos de machine learning interpretáveis e inclusivos.

TF Privacy Tests

Avalie as propriedades de privacidade dos modelos de classificação.

TensorBoard

Meça e visualize o fluxo de trabalho de machine learning.

Etapa 5

Implantar e monitorar

Use as seguintes ferramentas para acompanhar e se comunicar sobre o contexto do modelo e detalhes.

Model Card Toolkit

Gere cards de modelos com facilidade usando o Model Card toolkit.

Metadados de ML

Registre e recupere metadados associados a fluxos de trabalho de desenvolvedores de ML e cientistas de dados.

Model Cards

Organize as informações essenciais de machine learning de forma estruturada.

Recursos da comunidade

Descubra o que a comunidade está fazendo e veja maneiras de participar.

Crowdsource do Google

Ajude os produtos do Google a se tornarem mais inclusivos e representativos no seu idioma, na sua região e cultura.

Desafio DevPost de Responsible AI

Pedimos aos participantes que usassem o TensorFlow 2.2 para desenvolver um modelo ou aplicativo com os princípios da Responsible AI em mente. Acesse a galeria para ver os vencedores e outros projetos incríveis.

Responsible AI com o TensorFlow (conferência de desenvolvedores do TensorFlow 2020)

Conheça um framework para pensar sobre ML, imparcialidade e privacidade.