সেন্সরফ্লো :: অপস :: স্পার্স অ্যাপ্লাইআরএমএসপ্রপ
#include <training_ops.h>
আরএমএসপ্রপ অ্যালগরিদম অনুযায়ী '* ভার' আপডেট করুন।
সারসংক্ষেপ
নোট করুন যে এই অ্যালগরিদমের ঘন বাস্তবায়নে, এমএস এবং মা গ্রেড শূন্য হলেও, আপডেট হবে তবে এই বিচ্ছুর বাস্তবায়নে, এমএস এবং মম পুনরাবৃত্তিতে আপডেট হবে না যার সময় গ্রেড শূন্য হয়।
গড়_সকোয়ার = ক্ষয় * গড়_সকোয়ার + (1-ক্ষয়) * গ্রেডিয়েন্ট ** 2 ডেল্টা = শেখানো_প্রতি * গ্রেডিয়েন্ট / স্কয়ার্ট (গড়_সকোয়ার + অ্যাপসিলন)
$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$ $$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$ 0aaefef3e70
যুক্তি:
- সুযোগ: একটি স্কোপ অবজেক্ট
- var: পরিবর্তনশীল () থেকে হওয়া উচিত।
- এমএস: পরিবর্তনশীল () থেকে হওয়া উচিত।
- মা: পরিবর্তনশীল () থেকে হওয়া উচিত।
- lr: স্কেলিং ফ্যাক্টর। অবশ্যই একটি স্কেলার হতে হবে।
- rho: ক্ষয়ের হার অবশ্যই একটি স্কেলার হতে হবে।
- এপসিলন: রিজ টার্ম। অবশ্যই একটি স্কেলার হতে হবে।
- গ্রেড: গ্রেডিয়েন্ট।
- সূচকগুলি: ভের, এমএস এবং মায়ের প্রথম মাত্রায় সূচকগুলির একটি ভেক্টর।
- ব্যবহার_লকিং: যদি
True
তবে ভেরি, এমএস এবং মায়ের টেনারগুলি আপডেট করা কোনও লক দ্বারা সুরক্ষিত থাকবে; অন্যথায় আচরণটি সংজ্ঞায়িত হলেও কম বিতর্ক প্রদর্শন করতে পারে।
রিটার্নস:
-
Output
: "ভার" হিসাবে একই।
নির্মাণকারী এবং ধ্বংসকারী | |
---|---|
SparseApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, :: tensorflow::Input indices) | |
SparseApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, :: tensorflow::Input indices, const SparseApplyRMSProp::Attrs & attrs) |
জনসাধারণের গুণাবলী | |
---|---|
operation | |
out |
পাবলিক ফাংশন | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
পাবলিক স্ট্যাটিক ফাংশন | |
---|---|
UseLocking (bool x) |
স্ট্রাক্টস | |
---|---|
টেনসরফ্লো :: অপস :: স্পার্স অ্যাপ্লাইআরএমএসপ্রপ :: অ্যাটারস | SparseApplyRMSProp এর জন্য .চ্ছিক অ্যাট্রিবিউট সেটটার । |
জনসাধারণের গুণাবলী
অপারেশন
Operation operation
আউট
::tensorflow::Output out
পাবলিক ফাংশন
স্পার্স অ্যাপ্লাইআরএমএসপ্রপ
SparseApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad, ::tensorflow::Input indices )
স্পার্স অ্যাপ্লাইআরএমএসপ্রপ
SparseApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad, ::tensorflow::Input indices, const SparseApplyRMSProp::Attrs & attrs )
নোড
::tensorflow::Node * node() const
অপারেটর :: টেনসরফ্লো :: ইনপুট
operator::tensorflow::Input() const
অপারেটর :: টেনসরফ্লো :: আউটপুট
operator::tensorflow::Output() const
পাবলিক স্ট্যাটিক ফাংশন
ইউজলকিং
Attrs UseLocking( bool x )