ऑप्टिमाइज़र जो RMSProp एल्गोरिथम को कार्यान्वित करता है।
RMSprop का सार इस प्रकार है:
- ग्रेडिएंट्स के वर्ग का एक गतिशील (छूटयुक्त) औसत बनाए रखें
- ग्रेडिएंट को इस औसत के मूल से विभाजित करें
आरएमएसप्रॉप का यह कार्यान्वयन सादे गति का उपयोग करता है, न कि नेस्टरोव गति का।
केंद्रित संस्करण अतिरिक्त रूप से ग्रेडिएंट्स की चलती औसत को बनाए रखता है, और भिन्नता का अनुमान लगाने के लिए उस औसत का उपयोग करता है।
स्थिरांक
बूलियन | केन्द्रित_डिफॉल्ट | |
तैरना | DECAY_DEFAULT | |
तैरना | ईपीएसआईएलओएन_डिफॉल्ट | |
तैरना | LEARNING_RATE_DEFAULT | |
डोरी | एमजी | |
डोरी | गति | |
तैरना | MOMENTUM_DEFAULT | |
डोरी | आरएमएस |
विरासत में मिले स्थिरांक
सार्वजनिक निर्माता
आरएमएसप्रॉप ( ग्राफ ग्राफ, फ्लोट लर्निंगरेट, फ्लोट क्षय, फ्लोट मोमेंटम, फ्लोट एप्सिलॉन, बूलियन केंद्रित) एक RMSPRrop ऑप्टिमाइज़र बनाता है | |
आरएमएसप्रॉप ( ग्राफ ग्राफ, स्ट्रिंग नाम, फ्लोट लर्निंगरेट, फ्लोट क्षय, फ्लोट गति, फ्लोट एप्सिलॉन, बूलियन केंद्रित) एक RMSPRrop ऑप्टिमाइज़र बनाता है |
सार्वजनिक तरीके
डोरी | गेटऑप्टिमाइज़रनाम () अनुकूलक का नाम प्राप्त करें. |
डोरी | स्ट्रिंग () |
विरासत में मिली विधियाँ
स्थिरांक
सार्वजनिक स्थैतिक अंतिम बूलियन CENTERED_DEFAULT
सार्वजनिक स्थैतिक अंतिम फ़्लोट DECAY_DEFAULT
सार्वजनिक स्थैतिक अंतिम फ़्लोट EPSILON_DEFAULT
सार्वजनिक स्थैतिक अंतिम फ़्लोट LEARNING_RATE_DEFAULT
सार्वजनिक स्थैतिक अंतिम स्ट्रिंग एमजी
सार्वजनिक स्थैतिक अंतिम स्ट्रिंग गति
सार्वजनिक स्थैतिक अंतिम फ़्लोट MOMENTUM_DEFAULT
सार्वजनिक स्थैतिक अंतिम स्ट्रिंग आरएमएस
सार्वजनिक निर्माता
सार्वजनिक आरएमएसप्रॉप ( ग्राफ ग्राफ)
एक RMSPRrop ऑप्टिमाइज़र बनाता है
पैरामीटर
ग्राफ | टेंसरफ़्लो ग्राफ़ |
---|
सार्वजनिक आरएमएसप्रॉप ( ग्राफ़ ग्राफ़, फ़्लोट लर्निंग रेट)
एक RMSPRrop ऑप्टिमाइज़र बनाता है
पैरामीटर
ग्राफ | टेंसरफ़्लो ग्राफ़ |
---|---|
सीखने की दर | सीखने की दर |
सार्वजनिक आरएमएसप्रॉप ( ग्राफ ग्राफ, फ्लोट लर्निंग रेट, फ्लोट क्षय, फ्लोट गति, फ्लोट एप्सिलॉन, बूलियन केंद्रित)
एक RMSPRrop ऑप्टिमाइज़र बनाता है
पैरामीटर
ग्राफ | टेंसरफ़्लो ग्राफ़ |
---|---|
सीखने की दर | सीखने की दर |
क्षय | इतिहास/आने वाले ग्रेडिएंट के लिए छूट कारक। डिफ़ॉल्ट 0.9. |
गति | त्वरण कारक, डिफ़ॉल्ट 0 है। |
एप्सिलॉन | संख्यात्मक स्थिरता के लिए एक छोटा सा स्थिरांक |
केंद्रित | यदि true , तो ग्रेडिएंट को ग्रेडिएंट के अनुमानित विचरण द्वारा सामान्यीकृत किया जाता है; यदि false , तो अकेंद्रित दूसरे क्षण द्वारा। इसे true पर सेट करने से प्रशिक्षण में मदद मिल सकती है, लेकिन गणना और मेमोरी के मामले में यह थोड़ा अधिक महंगा है। डिफ़ॉल्ट रूप से false । |
सार्वजनिक आरएमएसप्रॉप ( ग्राफ ग्राफ, स्ट्रिंग नाम, फ्लोट लर्निंग रेट)
एक RMSPRrop ऑप्टिमाइज़र बनाता है
पैरामीटर
ग्राफ | टेंसरफ़्लो ग्राफ़ |
---|---|
नाम | इस ऑप्टिमाइज़र का नाम. डिफ़ॉल्ट रूप से "RMSProp"। |
सीखने की दर | सीखने की दर |
सार्वजनिक आरएमएसप्रॉप ( ग्राफ ग्राफ, स्ट्रिंग नाम, फ्लोट लर्निंगरेट, फ्लोट क्षय, फ्लोट गति, फ्लोट एप्सिलॉन, बूलियन केंद्रित)
एक RMSPRrop ऑप्टिमाइज़र बनाता है
पैरामीटर
ग्राफ | टेंसरफ़्लो ग्राफ़ |
---|---|
नाम | इस ऑप्टिमाइज़र का नाम. डिफ़ॉल्ट रूप से "RMSProp"। |
सीखने की दर | सीखने की दर |
क्षय | इतिहास/आने वाले ग्रेडिएंट के लिए छूट कारक। डिफ़ॉल्ट 0.9. |
गति | त्वरण कारक, डिफ़ॉल्ट 0 है। |
एप्सिलॉन | संख्यात्मक स्थिरता के लिए एक छोटा सा स्थिरांक |
केंद्रित | यदि true , तो ग्रेडिएंट को ग्रेडिएंट के अनुमानित विचरण द्वारा सामान्यीकृत किया जाता है; यदि false , तो अकेंद्रित दूसरे क्षण द्वारा। इसे true पर सेट करने से प्रशिक्षण में मदद मिल सकती है, लेकिन गणना और मेमोरी के मामले में यह थोड़ा अधिक महंगा है। डिफ़ॉल्ट रूप से false । |
सार्वजनिक तरीके
सार्वजनिक स्ट्रिंग getOptimizerName ()
अनुकूलक का नाम प्राप्त करें.
रिटर्न
- अनुकूलक नाम.