Zapisz datę! Google I / O powraca w dniach 18-20 maja Zarejestruj się teraz
Ta strona została przetłumaczona przez Cloud Translation API.
Switch to English

Dowiedz się, jak zintegrować odpowiedzialne praktyki sztucznej inteligencji z przepływem pracy ML za pomocą TensorFlow

TensorFlow stara się pomagać w dokonywaniu postępów w odpowiedzialnym rozwoju sztucznej inteligencji, udostępniając zbiór zasobów i narzędzi społeczności ML.

Co to jest odpowiedzialna sztuczna inteligencja?

Rozwój sztucznej inteligencji stwarza nowe możliwości rozwiązywania trudnych, rzeczywistych problemów. Stawia również nowe pytania dotyczące najlepszego sposobu budowania systemów sztucznej inteligencji, które przynoszą korzyści wszystkim.

Projektowanie systemów sztucznej inteligencji powinno być zgodne z najlepszymi praktykami w zakresie tworzenia oprogramowania, ale zorientowane na człowieka
podejście do ML

Uczciwość

Ponieważ wpływ sztucznej inteligencji rośnie w różnych sektorach i społeczeństwach, kluczowe znaczenie ma dążenie do systemów, które są sprawiedliwe i sprzyjające włączeniu społecznemu

Interpretowalność

Zrozumienie i zaufanie do systemów SI jest ważne dla zapewnienia, że ​​działają one zgodnie z zamierzeniami

Prywatność

Szkolenie modeli dotyczących danych wrażliwych wymaga zabezpieczeń zapewniających prywatność

Bezpieczeństwo

Identyfikacja potencjalnych zagrożeń może pomóc w zapewnieniu bezpieczeństwa systemów sztucznej inteligencji

Odpowiedzialna sztuczna inteligencja w przepływie pracy ML

Odpowiedzialne praktyki sztucznej inteligencji można uwzględnić na każdym etapie przepływu pracy ML. Oto kilka kluczowych pytań, które należy rozważyć na każdym etapie.

Dla kogo jest mój system ML?

Sposób, w jaki użytkownicy postrzegają system, jest niezbędny do oceny rzeczywistego wpływu jego prognoz, zaleceń i decyzji. Upewnij się, że na wczesnym etapie procesu tworzenia oprogramowania uzyskasz informacje od zróżnicowanej grupy użytkowników.

Czy używam reprezentatywnego zbioru danych?

Czy dane są próbkowane w sposób, który reprezentuje użytkowników (np. Będą używane dla wszystkich grup wiekowych, ale masz tylko dane szkoleniowe od seniorów) i rzeczywiste ustawienia (np. Będą używane przez cały rok, ale masz tylko szkolenie dane z lata)?

Czy w moich danych występują uprzedzenia dotyczące świata rzeczywistego / człowieka?

Podstawowe uprzedzenia w danych mogą przyczyniać się do tworzenia złożonych pętli informacji zwrotnych, które wzmacniają istniejące stereotypy.

Jakich metod powinienem używać do trenowania mojego modelu?

Użyj metod szkoleniowych, które wprowadzają do modelu uczciwość, interpretowalność, prywatność i bezpieczeństwo.

Jak radzi sobie mój model?

Oceniaj doświadczenie użytkownika w rzeczywistych scenariuszach w szerokim spektrum użytkowników, przypadków użycia i kontekstów użycia. Najpierw przetestuj i przeprowadź iterację w wersji testowej, a po uruchomieniu kontynuuj testowanie.

Czy istnieją złożone pętle sprzężenia zwrotnego?

Nawet jeśli wszystko w ogólnym projekcie systemu jest starannie wykonane, modele oparte na ML rzadko działają ze 100% perfekcją, gdy są stosowane do rzeczywistych danych w czasie rzeczywistym. Kiedy pojawia się problem w działającym produkcie, zastanów się, czy jest on zgodny z istniejącymi niedogodnościami społecznymi i jaki wpływ na to będą miały zarówno rozwiązania krótko-, jak i długoterminowe.

Odpowiedzialne narzędzia AI dla TensorFlow

Ekosystem TensorFlow zawiera zestaw narzędzi i zasobów, które pomogą odpowiedzieć na niektóre z powyższych pytań.

Krok 1

Zdefiniuj problem

Skorzystaj z poniższych zasobów, aby projektować modele z myślą o odpowiedzialnej sztucznej inteligencji.

Poradnik People + AI Research (PAIR)

Dowiedz się więcej o procesie rozwoju sztucznej inteligencji i kluczowych kwestiach.

PARA Explorables

Przeglądaj, za pomocą interaktywnych wizualizacji, kluczowe pytania i koncepcje w dziedzinie odpowiedzialnej sztucznej inteligencji.

Krok 2

Skonstruuj i przygotuj dane

Użyj następujących narzędzi, aby zbadać dane pod kątem potencjalnych błędów.

Walidacja danych TF

Analizuj i przekształcaj dane, aby wykrywać problemy i tworzyć bardziej efektywne zestawy funkcji.

Karty danych

Utwórz raport przejrzystości dla swojego zbioru danych.

Krok 3

Zbuduj i wytrenuj model

Skorzystaj z poniższych narzędzi, aby trenować modele przy użyciu technik zapewniających prywatność, interpretowalnych i nie tylko.

Naprawa modelu TF

Trenuj modele uczenia maszynowego, aby promować bardziej sprawiedliwe wyniki.

Prywatność TF

Trenuj modele uczenia maszynowego z zachowaniem prywatności.

TF Federated

Trenuj modele uczenia maszynowego przy użyciu technik uczenia federacyjnego.

Optymalizacja z ograniczeniami TF

Zoptymalizuj problemy ograniczone nierównościami.

Krata TF

Wdrażaj elastyczne, kontrolowane i interpretowalne modele oparte na sieciach kratowych.

Krok 4

Oceń model

Debuguj, oceniaj i wizualizuj wydajność modelu za pomocą następujących narzędzi.

Wskaźniki uczciwości

Oceń często identyfikowane wskaźniki rzetelności dla klasyfikatorów binarnych i wieloklasowych.

Analiza modelu TF

Oceniaj modele w sposób rozproszony i obliczaj je na różnych wycinkach danych.

Narzędzie Co jeśli

Badaj, oceniaj i porównuj modele uczenia maszynowego.

Wytłumaczalne AI

Opracuj możliwe do interpretacji i integracyjne modele uczenia maszynowego.

Testy prywatności TF

Oceń właściwości prywatności modeli klasyfikacyjnych.

TensorBoard

Mierz i wizualizuj przepływ pracy uczenia maszynowego.

Krok 5

Wdrażaj i monitoruj

Użyj następujących narzędzi, aby śledzić i komunikować się o kontekście i szczegółach modelu.

Zestaw narzędzi do kart modeli

Z łatwością generuj karty modeli za pomocą zestawu narzędzi Model Card.

ML Metadata

Nagrywaj i pobieraj metadane związane z przepływami pracy deweloperów ML i naukowców danych.

Karty modeli

Uporządkuj podstawowe fakty dotyczące uczenia maszynowego w uporządkowany sposób.

Zasoby społeczności

Dowiedz się, co robi społeczność i odkryj sposoby na zaangażowanie się.

Crowdsource od Google

Pomóż usługom Google stać się bardziej inkluzywnymi i reprezentatywnymi dla Twojego języka, regionu i kultury.

Odpowiedzialna AI DevPost Challenge

Poprosiliśmy uczestników o wykorzystanie TensorFlow 2.2 do zbudowania modelu lub aplikacji z myślą o zasadach odpowiedzialnej sztucznej inteligencji. Zajrzyj do galerii, aby zobaczyć zwycięzców i inne niesamowite projekty.

Odpowiedzialna sztuczna inteligencja z TensorFlow (TF Dev Summit '20)

Przedstawiamy ramy myślenia o ML, uczciwości i prywatności.

Kontynuuj