পাবলিক ফাইনাল ক্লাস SendTPUEmbeddingGradients
এম্বেডিং টেবিলের গ্রেডিয়েন্ট আপডেট সম্পাদন করে।
পাবলিক পদ্ধতি
স্ট্যাটিক SendTPUEmbeddingGradients |
উত্তরাধিকারসূত্রে প্রাপ্ত পদ্ধতি
পাবলিক পদ্ধতি
পাবলিক স্ট্যাটিক SendTPUEmbeddingGradients তৈরি করে ( Scope scope, Iterable< Operand <float>> inputs, Iterable< Operand <float>> learningRates, String config)
একটি নতুন SendTPUEmbeddingGradients অপারেশন মোড়ানো একটি ক্লাস তৈরি করার কারখানার পদ্ধতি।
পরামিতি
সুযোগ | বর্তমান সুযোগ |
---|---|
ইনপুট | গ্রেডিয়েন্টের একটি টেনসরলিস্ট যার সাথে এম্বেডিং টেবিল আপডেট করতে হবে। RecvTPUEmbeddingActivations-এর রিটার্ন মানের মতো এই আর্গুমেন্টের দৈর্ঘ্য এবং আকার একই, কিন্তু এমবেডিং অ্যাক্টিভেশনের ক্ষেত্রে মডেলের ক্ষতির গ্রেডিয়েন্ট রয়েছে। এম্বেডিং টেবিলগুলি tpu.initialize_system-এ দেওয়া TPU এম্বেডিং কনফিগারেশনে নির্দিষ্ট করা অপ্টিমাইজারের মাধ্যমে এই গ্রেডিয়েন্টগুলি থেকে আপডেট করা হয়। |
শেখার হার | float32 স্কেলারগুলির একটি টেনসরলিস্ট, প্রতিটি গতিশীল শিক্ষার হার ট্যাগের জন্য একটি: //third_party/tensorflow/core/protobuf/tpu/optimization_parameters.proto-এ মন্তব্যগুলি দেখুন৷ একাধিক টেবিল কনফিগারেশনে উল্লেখ করা একই গতিশীল শেখার হার ট্যাগ ভাগ করতে পারে। যদি সমস্ত টেবিলের জন্য শেখার হার স্থির থাকে, তাহলে এই তালিকাটি খালি হওয়া উচিত। |
কনফিগারেশন | ক্রমিককৃত TPUEmbedding কনফিগারেশন প্রোটো। |
রিটার্নস
- SendTPUEmbeddingGradients-এর একটি নতুন উদাহরণ