মোমেন্টাম স্কিম অনুযায়ী '*var' এবং '*accum'-এ প্রাসঙ্গিক এন্ট্রি আপডেট করুন।
সেট use_nesterov = True যদি আপনি Nesterov ভরবেগ ব্যবহার করতে চান।
যে সারিগুলির জন্য আমাদের গ্রেড আছে, আমরা var আপডেট করি এবং নিম্নরূপ accum করি:
$$accum = accum * momentum + grad$$$$var -= lr * accum$$
নেস্টেড ক্লাস
ক্লাস | SparseApplyMomentum.Options | SparseApplyMomentum এর জন্য ঐচ্ছিক বৈশিষ্ট্য |
ধ্রুবক
স্ট্রিং | OP_NAME | এই অপের নাম, টেনসরফ্লো কোর ইঞ্জিন দ্বারা পরিচিত |
পাবলিক পদ্ধতি
আউটপুট <T> | আউটপুট হিসাবে () টেনসরের প্রতীকী হ্যান্ডেল ফেরত দেয়। |
স্ট্যাটিক <T TType প্রসারিত করে > SparseApplyMomentum <T> | |
আউটপুট <T> | আউট () "var" এর মতোই। |
স্ট্যাটিক SparseApplyMomentum.Options | ইউজ লকিং (বুলিয়ান ইউজ লকিং) |
স্ট্যাটিক SparseApplyMomentum.Options | ইউজ নেস্টেরভ (বুলিয়ান ইউজ নেস্টেরভ) |
উত্তরাধিকারসূত্রে প্রাপ্ত পদ্ধতি
ধ্রুবক
সর্বজনীন স্ট্যাটিক চূড়ান্ত স্ট্রিং OP_NAME
এই অপের নাম, টেনসরফ্লো কোর ইঞ্জিন দ্বারা পরিচিত
পাবলিক পদ্ধতি
সর্বজনীন আউটপুট <T> হিসাবে আউটপুট ()
টেনসরের প্রতীকী হ্যান্ডেল ফেরত দেয়।
TensorFlow অপারেশনের ইনপুট হল অন্য TensorFlow অপারেশনের আউটপুট। এই পদ্ধতিটি একটি সিম্বলিক হ্যান্ডেল পেতে ব্যবহৃত হয় যা ইনপুটের গণনার প্রতিনিধিত্ব করে।
পাবলিক স্ট্যাটিক স্পারসঅ্যাপ্লাইমোমেন্টাম <T> তৈরি করুন ( স্কোপ স্কোপ, অপারেন্ড <T> var, Operand <T> accum, Operand <T> lr, Operand <T> grad, Operand <? প্রসারিত TNumber > সূচক, Operand <T> ভরবেগ, বিকল্প ... বিকল্প)
একটি নতুন SparseApplyMomentum অপারেশন মোড়ানো একটি ক্লাস তৈরি করার কারখানার পদ্ধতি।
পরামিতি
সুযোগ | বর্তমান সুযোগ |
---|---|
var | একটি পরিবর্তনশীল() থেকে হওয়া উচিত। |
accum | একটি পরিবর্তনশীল() থেকে হওয়া উচিত। |
lr | শেখার হার। একটি স্কেলার হতে হবে। |
স্নাতক | গ্রেডিয়েন্ট। |
সূচক | var এবং accum-এর প্রথম মাত্রায় সূচকগুলির একটি ভেক্টর। |
গতিবেগ | গতিবেগ। একটি স্কেলার হতে হবে। |
বিকল্প | ঐচ্ছিক বৈশিষ্ট্য মান বহন করে |
রিটার্নস
- SparseApplyMomentum এর একটি নতুন উদাহরণ
পাবলিক স্ট্যাটিক SparseApplyMomentum.Options useLocking (বুলিয়ান ইউজ লকিং)
পরামিতি
লকিং ব্যবহার করুন | যদি `True` হয়, var এবং accum tensors আপডেট করা একটি লক দ্বারা সুরক্ষিত হবে; অন্যথায় আচরণটি অনির্ধারিত, তবে কম বিরোধ প্রদর্শন করতে পারে। |
---|
পাবলিক স্ট্যাটিক SparseApplyMomentum.Options useNesterov (বুলিয়ান ইউজ নেস্টেরভ)
পরামিতি
Nesterov ব্যবহার করুন | যদি `True` হয়, তাহলে কম্পিউট গ্রেডে পাস করা টেনসর হবে var - lr * ভরবেগ * accum, তাই শেষ পর্যন্ত, আপনি যে var পাবেন তা আসলে var - lr * ভরবেগ * accum। |
---|