SendTPUEmbeddingGradients

পাবলিক ফাইনাল ক্লাস SendTPUEmbeddingGradients

এম্বেডিং টেবিলের গ্রেডিয়েন্ট আপডেট সম্পাদন করে।

পাবলিক পদ্ধতি

স্ট্যাটিক SendTPUEmbeddingGradients
তৈরি করুন ( স্কোপ স্কোপ, পুনরাবৃত্তিযোগ্য< অপারেন্ড <ফ্লোট>> ইনপুট, পুনরাবৃত্তিযোগ্য< অপারেন্ড <ফ্লোট>> শেখার হার, স্ট্রিং কনফিগারেশন)
একটি নতুন SendTPUEmbeddingGradients অপারেশন মোড়ানো একটি ক্লাস তৈরি করার কারখানার পদ্ধতি।

উত্তরাধিকারসূত্রে প্রাপ্ত পদ্ধতি

পাবলিক পদ্ধতি

পাবলিক স্ট্যাটিক SendTPUEmbeddingGradients তৈরি করে ( Scope scope, Iterable< Operand <float>> inputs, Iterable< Operand <float>> learningRates, String config)

একটি নতুন SendTPUEmbeddingGradients অপারেশন মোড়ানো একটি ক্লাস তৈরি করার কারখানার পদ্ধতি।

পরামিতি
সুযোগ বর্তমান সুযোগ
ইনপুট গ্রেডিয়েন্টের একটি টেনসরলিস্ট যার সাথে এম্বেডিং টেবিল আপডেট করতে হবে। RecvTPUEmbeddingActivations-এর রিটার্ন মানের মতো এই আর্গুমেন্টের দৈর্ঘ্য এবং আকার একই, কিন্তু এমবেডিং অ্যাক্টিভেশনের ক্ষেত্রে মডেলের ক্ষতির গ্রেডিয়েন্ট রয়েছে। এম্বেডিং টেবিলগুলি tpu.initialize_system-এ দেওয়া TPU এম্বেডিং কনফিগারেশনে নির্দিষ্ট করা অপ্টিমাইজারের মাধ্যমে এই গ্রেডিয়েন্টগুলি থেকে আপডেট করা হয়।
শেখার হার float32 স্কেলারগুলির একটি টেনসরলিস্ট, প্রতিটি গতিশীল শিক্ষার হার ট্যাগের জন্য একটি: //third_party/tensorflow/core/protobuf/tpu/optimization_parameters.proto-এ মন্তব্যগুলি দেখুন৷ একাধিক টেবিল কনফিগারেশনে উল্লেখ করা একই গতিশীল শেখার হার ট্যাগ ভাগ করতে পারে। যদি সমস্ত টেবিলের জন্য শেখার হার স্থির থাকে, তাহলে এই তালিকাটি খালি হওয়া উচিত।
কনফিগারেশন ক্রমিককৃত TPUEmbedding কনফিগারেশন প্রোটো।
রিটার্নস
  • SendTPUEmbeddingGradients-এর একটি নতুন উদাহরণ