Google I/O में ट्यूनिंग के लिए धन्यवाद। मांग पर सभी सत्र देखें मांग पर देखें

टेंसरफ़्लो :: ऑप्स :: ResourceApplyRMSProp

#include <training_ops.h>

RMSProp एल्गोरिथम के अनुसार '* var' अपडेट करें।

सारांश

ध्यान दें कि इस एल्गोरिथ्म के घने कार्यान्वयन में, एमएस और मॉम भले ही ग्रेड शून्य है, लेकिन इस विरल कार्यान्वयन में, एमएस और मॉम पुनरावृत्तियों में अपडेट नहीं करेंगे, जिसके दौरान ग्रेड शून्य है।

mean_square = decay * mean_square + (1-क्षय) * gradient ** 2 Delta = Learning_rate * gradient / sqrt (माध्य_पसंद + एप्सिलॉन)

ms <- rho * ms_ {t-1} + (1-rho) * grad * grad mom <- गति * mom_ {t-1} + lr * grad / sqrt (ms + epsilon) var </ mom -

तर्क:

  • गुंजाइश: एक स्कोप ऑब्जेक्ट
  • var: एक परिवर्तनीय () से होना चाहिए।
  • एमएस: एक चर () से होना चाहिए।
  • माँ: एक चर () से होना चाहिए।
  • lr: स्केलिंग फैक्टर। एक स्केलर होना चाहिए।
  • rho: क्षय दर। एक स्केलर होना चाहिए।
  • एप्सिलॉन: रिज टर्म। एक स्केलर होना चाहिए।
  • grad: ढाल।

वैकल्पिक विशेषताएँ ( Attrs देखें):

  • use_locking: यदि True , तो var, ms, और mom टेनसर्स का अद्यतन लॉक द्वारा सुरक्षित है; अन्यथा व्यवहार अपरिभाषित है, लेकिन कम विवाद को प्रदर्शित कर सकता है।

रिटर्न:

कंस्ट्रक्टर और डिस्ट्रक्टर्स

ResourceApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad)
ResourceApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, const ResourceApplyRMSProp::Attrs & attrs)

सार्वजनिक विशेषताएँ

operation

सार्वजनिक कार्य

operator::tensorflow::Operation () const

सार्वजनिक स्थैतिक कार्य

UseLocking (bool x)

संरचनाएं

टेंसोफ़्लो :: ऑप्स :: रिसोर्सएप्लीआरएमएसप्रॉप :: एट्र्स

वैकल्पिक विशेषता ResourceApplyRMSProp के लिए बसता है।

सार्वजनिक विशेषताएँ

ऑपरेशन

Operation operation

सार्वजनिक कार्य

ResourceApplyRMSProp

 ResourceApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad
)

ResourceApplyRMSProp

 ResourceApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  const ResourceApplyRMSProp::Attrs & attrs
)
है

ऑपरेटर :: टेंसरफ़्लो :: ऑपरेशन

 operator::tensorflow::Operation() const 

सार्वजनिक स्थैतिक कार्य

उपयोग करना

Attrs UseLocking(
  bool x
)