एडम एल्गोरिथम के अनुसार '*var' को अपडेट करें।
$$\text{lr}_t := \mathrm{learning_rate} * \sqrt{1 - \beta_2^t} / (1 - \beta_1^t)$$$$m_t := \beta_1 * m_{t-1} + (1 - \beta_1) * g$$$$v_t := \beta_2 * v_{t-1} + (1 - \beta_2) * g * g$$$$\text{variable} := \text{variable} - \text{lr}_t * m_t / (\sqrt{v_t} + \epsilon)$$
नेस्टेड क्लासेस
कक्षा | रिसोर्सएप्लाईएडम.विकल्प | ResourceApplyAdam के लिए वैकल्पिक विशेषताएँ |
स्थिरांक
डोरी | OP_NAME | इस ऑप का नाम, जैसा कि TensorFlow कोर इंजन द्वारा जाना जाता है |
सार्वजनिक तरीके
स्टेटिक <टी टीटाइप को बढ़ाता है > रिसोर्सएप्लाईएडम | बनाएं ( स्कोप स्कोप, ऑपरेंड <?> वर, ऑपरेंड <?> एम, ऑपरेंड <?> वी, ऑपरेंड <टी> बीटा1पावर, ऑपरेंड <टी> बीटा2पावर, ऑपरेंड <टी> एलआर, ऑपरेंड <टी> बीटा1, ऑपरेंड <टी > बीटा2, ऑपरेंड <टी> एप्सिलॉन, ऑपरेंड <टी> ग्रेड, विकल्प... विकल्प) एक नए रिसोर्सएप्लाईएडम ऑपरेशन को लपेटकर एक क्लास बनाने की फ़ैक्टरी विधि। |
स्टेटिक रिसोर्सएप्लाईएडम.ऑप्शंस | यूज़लॉकिंग (बूलियन यूज़लॉकिंग) |
स्टेटिक रिसोर्सएप्लाईएडम.ऑप्शंस | यूज़नेस्टरोव (बूलियन यूज़नेस्टरोव) |
विरासत में मिली विधियाँ
स्थिरांक
सार्वजनिक स्थैतिक अंतिम स्ट्रिंग OP_NAME
इस ऑप का नाम, जैसा कि TensorFlow कोर इंजन द्वारा जाना जाता है
सार्वजनिक तरीके
सार्वजनिक स्थैतिक रिसोर्सएप्लाईएडम क्रिएट ( स्कोप स्कोप, ऑपरेंड <?> वर, ऑपरेंड <?> एम, ऑपरेंड <?> वी, ऑपरेंड <टी> बीटा1पावर, ऑपरेंड < टी> बीटा2पावर, ऑपरेंड <टी> एलआर, ऑपरेंड <टी> बीटा1, ऑपरेंड <T> बीटा2, ऑपरेंड <T> एप्सिलॉन, ऑपरेंड <T> ग्रेड, विकल्प... विकल्प)
एक नए रिसोर्सएप्लाईएडम ऑपरेशन को लपेटकर एक क्लास बनाने की फ़ैक्टरी विधि।
पैरामीटर
दायरा | वर्तमान दायरा |
---|---|
वर | एक वेरिएबल() से होना चाहिए। |
एम | एक वेरिएबल() से होना चाहिए। |
वी | एक वेरिएबल() से होना चाहिए। |
बीटा1पावर | एक अदिश राशि होनी चाहिए. |
बीटा2पावर | एक अदिश राशि होनी चाहिए. |
एलआर | मापन कारक। एक अदिश राशि होनी चाहिए. |
बीटा1 | संवेग कारक. एक अदिश राशि होनी चाहिए. |
बीटा2 | संवेग कारक. एक अदिश राशि होनी चाहिए. |
एप्सिलॉन | रिज शब्द. एक अदिश राशि होनी चाहिए. |
ग्रैड | ढाल. |
विकल्प | वैकल्पिक गुण मान रखता है |
रिटर्न
- रिसोर्सएप्लाईएडम का एक नया उदाहरण
सार्वजनिक स्थैतिक संसाधन ApplyAdam.Options उपयोगलॉकिंग (बूलियन उपयोगलॉकिंग)
पैरामीटर
लॉकिंग का उपयोग करें | यदि `सही` है, तो var, m, और v टेंसर का अद्यतन एक लॉक द्वारा संरक्षित किया जाएगा; अन्यथा व्यवहार अपरिभाषित है, लेकिन कम विवाद प्रदर्शित कर सकता है। |
---|
सार्वजनिक स्थैतिक संसाधनApplyAdam.Options उपयोगनेस्टरोव (बूलियन उपयोगनेस्टरोव)
पैरामीटर
नेस्टरोव का उपयोग करें | यदि `सही` है, तो नेस्टरोव अद्यतन का उपयोग करता है। |
---|