Hướng dẫn liên kết TensorFlow

Các bài hướng dẫn dựa trên Colab này sẽ hướng dẫn bạn qua các khái niệm và API chính của TFF bằng các ví dụ thực tế. Tài liệu tham khảo có thể được tìm thấy trong các hướng dẫn của TFF .

Lưu ý: TFF hiện yêu cầu Python 3.9 trở lên, nhưng môi trường chạy được lưu trữ trên Google Colaboratory hiện đang sử dụng Python 3.7, vì vậy để chạy các notebook này, bạn sẽ cần sử dụng môi trường chạy cục bộ tùy chỉnh .

Bắt đầu với học tập liên kết

• Học tập liên kết cho phân loại hình ảnh giới thiệu các thành phần chính của API Học tập liên kết (FL) và minh họa cách sử dụng TFF để mô phỏng học tập liên kết trên dữ liệu liên kết tương tự MNIST.
• Học tập liên kết (Federated Learning) cho việc tạo văn bản minh họa thêm cách sử dụng API FL của TFF để tinh chỉnh mô hình được huấn luyện trước và tuần tự hóa cho nhiệm vụ mô hình hóa ngôn ngữ.
• Việc tinh chỉnh các phép tổng hợp được đề xuất cho quá trình học cho thấy cách các phép tính FL cơ bản trong tff.learning có thể được kết hợp với các quy trình tổng hợp chuyên biệt, mang lại tính mạnh mẽ, bảo mật khác biệt, nén dữ liệu, v.v.

Bắt đầu với phân tích liên kết

• Private Heavy Hitters hướng dẫn cách sử dụng tff.analytics.heavy_hitters để xây dựng một phép tính phân tích liên kết nhằm phát hiện những cá nhân/tổ chức có tầm ảnh hưởng lớn trong lĩnh vực tư nhân.

Viết các phép tính liên kết tùy chỉnh

• Tài liệu "Xây dựng thuật toán học tập liên kết của riêng bạn" hướng dẫn cách sử dụng các API cốt lõi của TFF để triển khai các thuật toán học tập liên kết, lấy ví dụ về phương pháp trung bình liên kết.
• Tài liệu "Composing Learning Algorithms" hướng dẫn cách sử dụng API học tập của TFF để dễ dàng triển khai các thuật toán học tập liên kết mới, đặc biệt là các biến thể của phương pháp trung bình liên kết (Federated Averaging).
• Các thuật toán liên kết tùy chỉnh, Phần 1: Giới thiệu về lõi liên kết và Phần 2: Triển khai tính trung bình liên kết giới thiệu các khái niệm và giao diện chính được cung cấp bởi API lõi liên kết (FC API).
• Phần "Implementing Custom Aggregations" giải thích các nguyên tắc thiết kế đằng sau mô-đun tff.aggregators và các phương pháp hay nhất để triển khai việc tổng hợp tùy chỉnh các giá trị từ máy khách đến máy chủ.

Các phương pháp mô phỏng tốt nhất

• Mô phỏng TFF với bộ tăng tốc (GPU) cho thấy cách thức sử dụng hiệu năng cao của TFF với GPU.

• Làm việc với ClientData cung cấp các phương pháp tốt nhất để tích hợp các bộ dữ liệu mô phỏng dựa trên ClientData của TFF vào các phép tính của TFF.

Các bài hướng dẫn trung cấp và nâng cao

• Việc tạo nhiễu ngẫu nhiên chỉ ra một số điểm tinh tế khi sử dụng tính ngẫu nhiên trong các phép tính phi tập trung, đồng thời đề xuất các phương pháp tốt nhất và các mô hình được khuyến nghị.

• Bài viết "Gửi dữ liệu khác nhau đến các máy khách cụ thể bằng federated_language.federated_select" giới thiệu toán tử federated_language.federated_select và đưa ra một ví dụ đơn giản về thuật toán liên kết tùy chỉnh gửi dữ liệu khác nhau đến các máy khách khác nhau.

• Phương pháp học liên kết mô hình lớn hiệu quả cho thiết bị khách thông qua federated_select và sparse aggregation cho thấy cách TFF có thể được sử dụng để huấn luyện một mô hình rất lớn, trong đó mỗi thiết bị khách chỉ tải xuống và cập nhật một phần nhỏ của mô hình, bằng cách sử dụng federated_language.federated_select và sparse aggregation.

• Học tập liên kết với bảo mật khác biệt trong TFF minh họa cách sử dụng TFF để huấn luyện các mô hình với bảo mật khác biệt ở cấp độ người dùng.