تدفق التوتر:: العمليات:: تطبيق المواردRMSProp

#include <training_ops.h>

قم بتحديث '*var' وفقًا لخوارزمية RMSProp.

ملخص

لاحظ أنه في التنفيذ المكثف لهذه الخوارزمية، سيتم تحديث ms وmom حتى لو كان grad صفرًا، ولكن في هذا التنفيذ المتناثر، لن يتم تحديث ms وmom في التكرارات التي يكون خلالها grad صفرًا.

mean_square = الاضمحلال * mean_square + (1-الاضمحلال) * التدرج ** 2 دلتا = معدل التعلم * التدرج / sqrt (mean_square + epsilon)

مللي ثانية <- رو * ms_{t-1} + (1-رو) * غراد * غراد أمي <- الزخم * mom_{t-1} + lr * غراد / sqrt(ms + إبسيلون) فار <- فار - أمي

الحجج:

• النطاق: كائن النطاق
• فار: يجب أن يكون من متغير ().
• مللي ثانية: يجب أن يكون من متغير ().
• أمي: يجب أن يكون من متغير ().
• lr: عامل التحجيم. يجب أن يكون العددية.
• رو: معدل الاضمحلال. يجب أن يكون العددية.
• إبسيلون: مصطلح ريدج. يجب أن يكون العددية.
• غراد: التدرج.

السمات الاختيارية (انظر Attrs ):

• use_locking: إذا كان True ، فإن تحديث الموترات var وms وmom محمي بقفل؛ وإلا فإن السلوك غير محدد، ولكنه قد يحمل قدرًا أقل من الخلاف.

العوائد:

• Operation التي تم إنشاؤها

البنائين والمدمرين
ResourceApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad)
ResourceApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, const ResourceApplyRMSProp::Attrs & attrs)

الصفات العامة
operation	Operation

الوظائف العامة
operator::tensorflow::Operation () const

وظائف ثابتة العامة
UseLocking (bool x)	Attrs

الهياكل
Tensorflow:: ops:: ResourceApplyRMSProp:: Attrs	محددات السمات الاختيارية لـ ResourceApplyRMSProp .

الصفات العامة

عملية

Operation operation

الوظائف العامة

تطبيق المواردRMSProp

 ResourceApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad
)

تطبيق المواردRMSProp

 ResourceApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  const ResourceApplyRMSProp::Attrs & attrs
)

المشغل::tensorflow::Operation

 operator::tensorflow::Operation() const 

وظائف ثابتة العامة

UseLocking

Attrs UseLocking(
  bool x
)