টেনসরফ্লো :: অপস:: SparseApplyProximalAdagrad
#include <training_ops.h>
FOBOS অ্যালগরিদম অনুযায়ী '*var' এবং '*accum'-এ স্পারস আপডেট এন্ট্রি।
সারাংশ
যে সারিগুলির জন্য আমাদের গ্রেড আছে, আমরা var আপডেট করি এবং নিম্নরূপ accum করি:
$$accum += grad * grad$$
$$prox_v = var$$
$$prox_v -= lr * grad * (1 / sqrt(accum))$$
$$var = sign(prox_v)/(1+lr*l2) * max{|prox_v|-lr*l1,0}$$
যুক্তি:
- স্কোপ: একটি স্কোপ অবজেক্ট
- var: একটি পরিবর্তনশীল() থেকে হওয়া উচিত।
- accum: একটি পরিবর্তনশীল() থেকে হতে হবে।
- lr: শেখার হার। একটি স্কেলার হতে হবে।
- l1: L1 নিয়মিতকরণ। একটি স্কেলার হতে হবে।
- l2: L2 নিয়মিতকরণ। একটি স্কেলার হতে হবে।
- grad: গ্রেডিয়েন্ট।
- সূচক: var এবং accum-এর প্রথম মাত্রায় সূচকগুলির একটি ভেক্টর।
ঐচ্ছিক বৈশিষ্ট্য (দেখুন Attrs
):
- use_locking: যদি সত্য হয়, var এবং accum tensors আপডেট করা একটি লক দ্বারা সুরক্ষিত হবে; অন্যথায় আচরণটি অনির্ধারিত, তবে কম বিরোধ প্রদর্শন করতে পারে।
রিটার্ন:
-
Output
: "var" এর মতোই।
কনস্ট্রাক্টর এবং ডেস্ট্রাক্টর | |
---|---|
SparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices) | |
SparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices, const SparseApplyProximalAdagrad::Attrs & attrs) |
পাবলিক বৈশিষ্ট্য | |
---|---|
operation | |
out |
পাবলিক ফাংশন | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
পাবলিক স্ট্যাটিক ফাংশন | |
---|---|
UseLocking (bool x) |
কাঠামো | |
---|---|
tensorflow:: ops:: SparseApplyProximalAdagrad:: Attrs | SparseApplyProximalAdagrad- এর জন্য ঐচ্ছিক বৈশিষ্ট্য নির্ধারণকারী। |
পাবলিক বৈশিষ্ট্য
অপারেশন
Operation operation
আউট
::tensorflow::Output out
পাবলিক ফাংশন
SparseApplyProximalAdagrad
SparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices )
SparseApplyProximalAdagrad
SparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices, const SparseApplyProximalAdagrad::Attrs & attrs )
নোড
::tensorflow::Node * node() const
অপারেটর::টেনসরফ্লো::ইনপুট
operator::tensorflow::Input() const
অপারেটর::টেনসরফ্লো::আউটপুট
operator::tensorflow::Output() const
পাবলিক স্ট্যাটিক ফাংশন
লকিং ব্যবহার করুন
Attrs UseLocking( bool x )