Samouczki dotyczące federacji TensorFlow

Te samouczki oparte na platformie Colab przeprowadzą Cię przez główne koncepcje TFF i interfejsy API, wykorzystując praktyczne przykłady. Dokumentację referencyjną można znaleźć w przewodnikach TFF .

Uwaga: TFF obecnie wymaga języka Python 3.9 lub nowszego, natomiast środowiska uruchomieniowe hostowane przez Google Colaboratory korzystają obecnie z języka Python 3.7. W związku z tym, aby uruchomić te notatniki, konieczne będzie użycie niestandardowego lokalnego środowiska uruchomieniowego .

Wprowadzenie do uczenia federacyjnego

• W artykule Federated Learning do klasyfikacji obrazów omówiono najważniejsze części interfejsu API Federated Learning (FL) i pokazano, jak używać TFF do symulowania federacyjnego uczenia się na federacyjnych danych podobnych do MNIST.
• W artykule Federated Learning dotyczącym generowania tekstu pokazano także, jak używać interfejsu API FL TFF do udoskonalania zserializowanego, wstępnie wyszkolonego modelu na potrzeby zadania modelowania języka.
• Dostrajanie zalecanych agregacji na potrzeby uczenia się pokazuje, w jaki sposób podstawowe obliczenia FL w tff.learning można połączyć ze specjalistycznymi procedurami agregacji, oferując solidność, prywatność różnicową, kompresję i wiele więcej.

Wprowadzenie do analityki federacyjnej

• W filmie Private Heavy Hitters pokazano, jak za pomocą tff.analytics.heavy_hitters zbudować federacyjne obliczenia analityczne pozwalające na wykrywanie prywatnych graczy o dużej sile rażenia.

Pisanie niestandardowych obliczeń federacyjnych

• W temacie Tworzenie własnego algorytmu uczenia federacyjnego pokazano, jak używać interfejsów API TFF Core do wdrażania algorytmów uczenia federacyjnego, na przykładzie uśredniania federacyjnego.
• W sekcji Composing Learning Algorithms pokazano, jak za pomocą interfejsu API TFF Learning łatwo wdrożyć nowe algorytmy uczenia federacyjnego, w szczególności warianty algorytmu Federated Averaging.
• W sekcjach Niestandardowe algorytmy federacyjne, część 1: Wprowadzenie do Federated Core i część 2: Implementacja Federated Averaging przedstawiono kluczowe koncepcje i interfejsy oferowane przez Federated Core API (FC API).
• W dokumencie Implementing Custom Aggregations omówiono zasady projektowania modułu tff.aggregators oraz najlepsze praktyki wdrażania niestandardowej agregacji wartości od klientów do serwera.

Najlepsze praktyki symulacyjne

• Symulacja TFF z wykorzystaniem akceleratorów (GPU) pokazuje, w jaki sposób środowisko wykonawcze TFF o wysokiej wydajności można wykorzystać z procesorami GPU.

• Praca z ClientData pozwala na zapoznanie się z najlepszymi praktykami integracji zestawów danych symulacyjnych TFF opartych na ClientData z obliczeniami TFF.

Samouczki dla średnio zaawansowanych i zaawansowanych

• Generowanie losowego szumu wskazuje na pewne subtelności związane z wykorzystaniem losowości w zdecentralizowanych obliczeniach, proponuje najlepsze praktyki i zaleca wzorce.

• Wysyłanie różnych danych do poszczególnych klientów W federated_language.federated_select przedstawiono operator federated_language.federated_select i podano prosty przykład niestandardowego algorytmu federacyjnego, który wysyła różne dane do różnych klientów.

• Efektywne pod względem klienta uczenie federacyjne na dużym modelu za pomocą federated_select i rzadkiej agregacji pokazuje, w jaki sposób TFF można wykorzystać do trenowania bardzo dużego modelu, w którym każde urządzenie klienckie pobiera i aktualizuje tylko małą część modelu, korzystając z federated_language.federated_select i rzadkiej agregacji.

• W artykule Federated Learning with Differential Privacy in TFF pokazano, jak używać TFF do trenowania modeli z różnicową prywatnością na poziomie użytkownika.