সেন্সরফ্লো :: অপস :: প্রয়োগডাম

#include <training_ops.h>

অ্যাডাম আলগোরিদিম অনুযায়ী '* ভার' আপডেট করুন।

সারসংক্ষেপ

$$lr_t := {learning_rate} * {1 - beta_2^t} / (1 - beta_1^t)$$
$$m_t := beta_1 * m_{t-1} + (1 - beta_1) * g$$
$$v_t := beta_2 * v_{t-1} + (1 - beta_2) * g * g$$
$$variable := variable - lr_t * m_t / ({v_t} + )$$

যুক্তি:

  • সুযোগ: একটি স্কোপ অবজেক্ট
  • var: পরিবর্তনশীল () থেকে হওয়া উচিত।
  • মি: একটি চলক () থেকে হওয়া উচিত।
  • v: পরিবর্তনশীল () থেকে হওয়া উচিত।
  • বিটা 1_ পাওয়ার: অবশ্যই একটি স্কেলার হওয়া উচিত।
  • বিটা 2_ পাওয়ার: অবশ্যই একটি স্কেলার হওয়া উচিত।
  • lr: স্কেলিং ফ্যাক্টর। অবশ্যই একটি স্কেলার হতে হবে।
  • বিটা 1: গতিবেগ ফ্যাক্টর। অবশ্যই একটি স্কেলার হতে হবে।
  • বিটা 2: গতিবেগ ফ্যাক্টর। অবশ্যই একটি স্কেলার হতে হবে।
  • এপসিলন: রিজ টার্ম। অবশ্যই একটি স্কেলার হতে হবে।
  • গ্রেড: গ্রেডিয়েন্ট।

Attrs বৈশিষ্ট্য ( Attrs ):

  • ব্যবহার_লকিং: যদি True হয় তবে var, m, এবং v টেনারগুলির আপডেট করা কোনও লক দ্বারা সুরক্ষিত থাকবে; অন্যথায় আচরণটি সংজ্ঞায়িত হলেও কম বিতর্ক প্রদর্শন করতে পারে।
  • ব্যবহার_নেস্টেরভ: যদি True তবে নেস্টারভ আপডেটটি ব্যবহার করে।

রিটার্নস:

  • Output : "ভার" হিসাবে একই।

নির্মাণকারী এবং ধ্বংসকারী

ApplyAdam (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input m, :: tensorflow::Input v, :: tensorflow::Input beta1_power, :: tensorflow::Input beta2_power, :: tensorflow::Input lr, :: tensorflow::Input beta1, :: tensorflow::Input beta2, :: tensorflow::Input epsilon, :: tensorflow::Input grad)
ApplyAdam (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input m, :: tensorflow::Input v, :: tensorflow::Input beta1_power, :: tensorflow::Input beta2_power, :: tensorflow::Input lr, :: tensorflow::Input beta1, :: tensorflow::Input beta2, :: tensorflow::Input epsilon, :: tensorflow::Input grad, const ApplyAdam::Attrs & attrs)

জনসাধারণের গুণাবলী

operation
out

পাবলিক ফাংশন

node () const
::tensorflow::Node *
operator::tensorflow::Input () const
operator::tensorflow::Output () const

পাবলিক স্ট্যাটিক ফাংশন

UseLocking (bool x)
UseNesterov (bool x)

স্ট্রাক্টস

টেনসরফ্লো :: অপ্স :: অ্যাপলএডম :: অ্যাটারস

প্রয়োগডামের জন্য alচ্ছিক বৈশিষ্ট্য সেটটার

জনসাধারণের গুণাবলী

অপারেশন

Operation operation

আউট

::tensorflow::Output out

পাবলিক ফাংশন

প্রয়োগডাম

 ApplyAdam(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input m,
  ::tensorflow::Input v,
  ::tensorflow::Input beta1_power,
  ::tensorflow::Input beta2_power,
  ::tensorflow::Input lr,
  ::tensorflow::Input beta1,
  ::tensorflow::Input beta2,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad
)

প্রয়োগডাম

 ApplyAdam(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input m,
  ::tensorflow::Input v,
  ::tensorflow::Input beta1_power,
  ::tensorflow::Input beta2_power,
  ::tensorflow::Input lr,
  ::tensorflow::Input beta1,
  ::tensorflow::Input beta2,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  const ApplyAdam::Attrs & attrs
)

নোড

::tensorflow::Node * node() const 

অপারেটর :: টেনসরফ্লো :: ইনপুট

 operator::tensorflow::Input() const 

অপারেটর :: টেনসরফ্লো :: আউটপুট

 operator::tensorflow::Output() const 

পাবলিক স্ট্যাটিক ফাংশন

ইউজলকিং

Attrs UseLocking(
  bool x
)

ইউজনেস্টেরভ

Attrs UseNesterov(
  bool x
)