บทเรียน แบบ Colab เหล่านี้จะแนะนำคุณเกี่ยวกับแนวคิดหลักและ API ของ TFF โดยใช้ตัวอย่างเชิงปฏิบัติ เอกสารอ้างอิงสามารถดูได้ใน คู่มือ TFF
เริ่มต้นใช้งานการเรียนรู้แบบกระจายศูนย์ (Federated Learning)
- การเรียนรู้แบบเฟเดอเรตสำหรับการจำแนกภาพ แนะนำส่วนสำคัญของ API การเรียนรู้แบบเฟเดอเรต (FL) และสาธิตวิธีการใช้ TFF เพื่อจำลองการเรียนรู้แบบเฟเดอเรตบนข้อมูลที่มีลักษณะคล้าย MNIST แบบเฟเดอเรต
- การเรียนรู้แบบเฟเดอเรตสำหรับการสร้างข้อความ แสดงให้เห็นเพิ่มเติมถึงวิธีการใช้ FL API ของ TFF เพื่อปรับปรุงโมเดลที่ได้รับการฝึกฝนล่วงหน้าในรูปแบบอนุกรมสำหรับงานสร้างแบบจำลองภาษา
- การปรับแต่งการรวมข้อมูลที่แนะนำสำหรับการเรียนรู้ แสดงให้เห็นว่าการคำนวณ FL พื้นฐานใน
tff.learningสามารถรวมเข้ากับรูทีนการรวมข้อมูลเฉพาะทางที่ให้ความทนทาน ความเป็นส่วนตัวแบบดิฟเฟอเรนเชียล การบีบอัด และอื่นๆ ได้อย่างไร
เริ่มต้นใช้งานระบบวิเคราะห์ข้อมูลแบบรวมศูนย์ (Federated Analytics)
- Private Heavy Hitters แสดงวิธีการใช้
tff.analytics.heavy_hittersเพื่อสร้างการคำนวณการวิเคราะห์แบบรวมศูนย์เพื่อค้นหาผู้ใช้งานรายใหญ่ที่เป็นบุคคลภายนอก (private heavy hitters)
การเขียนการคำนวณแบบเฟเดอเรตที่กำหนดเอง
- บทความ "การสร้างอัลกอริธึมการเรียนรู้แบบเฟเดอเรตของคุณเอง" แสดงวิธีการใช้ API หลักของ TFF เพื่อนำอัลกอริธึมการเรียนรู้แบบเฟเดอเรตไปใช้ โดยใช้การหาค่าเฉลี่ยแบบเฟเดอเรตเป็นตัวอย่าง
- คู่มือการสร้างอัลกอริธึมการเรียนรู้ แสดงวิธีการใช้ TFF Learning API เพื่อนำอัลกอริธึมการเรียนรู้แบบเฟเดอเรตใหม่ๆ มาใช้ได้อย่างง่ายดาย โดยเฉพาะอย่างยิ่งอัลกอริธึมการหาค่าเฉลี่ยแบบเฟเดอเรต (Federated Averaging) ในรูปแบบต่างๆ
- บทความเรื่อง "อัลกอริทึมแบบเฟเดอเรตที่กำหนดเอง ตอนที่ 1: บทนำเกี่ยวกับแกนหลักของเฟเดอเรต" และ "ตอนที่ 2: การนำการหาค่าเฉลี่ยแบบเฟเดอเรตไปใช้" จะแนะนำแนวคิดหลักและอินเทอร์เฟซที่นำเสนอโดย API แกนหลักของเฟเดอเรต (FC API)
- การนำการรวมข้อมูลแบบกำหนดเองไปใช้ จะอธิบายหลักการออกแบบเบื้องหลังโมดูล
tff.aggregatorsและแนวทางปฏิบัติที่ดีที่สุดสำหรับการนำการรวมค่าแบบกำหนดเองจากไคลเอนต์ไปยังเซิร์ฟเวอร์ไปใช้
แนวปฏิบัติที่ดีที่สุดในการจำลอง
การจำลอง TFF ด้วยตัวเร่งความเร็ว (GPU) แสดงให้เห็นว่ารันไทม์ประสิทธิภาพสูงของ TFF สามารถใช้งานร่วมกับ GPU ได้อย่างไร
การทำงานร่วมกับ ClientData จะให้แนวทางปฏิบัติที่ดีที่สุดสำหรับการบูรณาการชุดข้อมูลจำลองที่ใช้ ClientData ของ TFF เข้ากับการคำนวณของ TFF
บทเรียนระดับกลางและระดับสูง
การสร้างสัญญาณรบกวนแบบสุ่ม ชี้ให้เห็นถึงความซับซ้อนบางประการในการใช้ความสุ่มในการคำนวณแบบกระจายศูนย์ และเสนอแนวทางปฏิบัติที่ดีที่สุดและรูปแบบที่แนะนำ
การส่งข้อมูลที่แตกต่างกันไปยังไคลเอ็นต์เฉพาะด้วย federated_language.federated_select จะแนะนำตัวดำเนินการ
federated_language.federated_selectและให้ตัวอย่างง่ายๆ ของอัลกอริทึมแบบรวมศูนย์ที่กำหนดเองซึ่งส่งข้อมูลที่แตกต่างกันไปยังไคลเอ็นต์ที่แตกต่างกันการเรียนรู้แบบเฟเดอเรตขนาดใหญ่ที่มีประสิทธิภาพสำหรับลูกค้าแต่ละรายผ่านการเลือกแบบเฟเดอเรตและการรวม แบบเบาบาง แสดงให้เห็นว่า TFF สามารถใช้ในการฝึกโมเดลขนาดใหญ่มากได้อย่างไร โดยที่อุปกรณ์ของลูกค้าแต่ละเครื่องจะดาวน์โหลดและอัปเดตเพียงส่วนเล็ก ๆ ของโมเดลเท่านั้น โดยใช้
federated_language.federated_selectและการรวมแบบเบาบางการเรียนรู้แบบรวมศูนย์ด้วยความเป็นส่วนตัวแบบดิฟเฟอเรนเชียลใน TFF สาธิตวิธีการใช้ TFF เพื่อฝึกโมเดลด้วยความเป็นส่วนตัวแบบดิฟเฟอเรนเชียลระดับผู้ใช้