टेंसरफ़्लो:: सेवारत:: आकांक्षी संस्करण प्रबंधक
#include <aspired_versions_manager.h>
एक प्रबंधक है कि औजार लक्ष्य < लोडर > एपीआई जो उपयोग करता करवा आकांक्षी-संस्करणों कॉलबैक लोड करने के लिए जो servable संस्करणों।
सारांश
यह प्रबंधक उस एपीआई का उपयोग यह अनुमान लगाने के लिए भी करता है कि किन लोगों को अनलोड करना है: यदि कोई दिया जाने योग्य संस्करण वर्तमान में लोड किया गया है, और इसकी सेवा योग्य स्ट्रीम से संबंधित एक आकांक्षी-संस्करण कॉलबैक आमंत्रण से छोड़ा गया है, तो यह प्रबंधक उस चूक को अनलोड करने के लिए एक निहित निर्देश के रूप में व्याख्या करता है संस्करण। विवरण के लिए नीचे देखें।
(अंतर्निहित-अनलोड अर्थ विज्ञान की सुविधा राज्यविहीन स्रोत कार्यान्वयन, जिससे की दी गई यात्रा स्रोत के तर्क बस का फैसला करता है जो एक servable के संस्करणों, लोड करने के लिए पता है कि यह अतीत में फैसला किया है की जरूरत के बिना चाहिए।)
यह प्रबंधक कॉन्फ़िगर का उपयोग कर एक servable धारा के संस्करणों के बीच संक्रमण बनाता AspiredVersionPolicy । नीति द्वारा सुझाए गए संक्रमणों के बीच निर्णय लेते समय प्रबंधक सर्वर में संसाधनों को मुक्त करने के लिए लोड करने से पहले अनलोडिंग को प्राथमिकता देता है।
विरासत
: से विरासत में मिली tensorflow :: की सेवा :: प्रबंधक , लक्ष्य <std :: unique_ptr <लोडर>>निर्माता और विनाशक | |
---|---|
~AspiredVersionsManager () |
सार्वजनिक प्रकार | |
---|---|
PreLoadHook | का उपयोग करते हुएBasicManager::PreLoadHook |
मित्र वर्ग | |
---|---|
internal::AspiredVersionsManagerTargetImpl | friend class |
test_util::AspiredVersionsManagerTestAccess | friend class |
सार्वजनिक स्थैतिक कार्य | |
---|---|
Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager) | Status |
सार्वजनिक समारोह | |
---|---|
GetAspiredVersionsCallback () override | लोडर का उपयोग करके किसी विशेष सेवा योग्य स्ट्रीम के लिए आकांक्षी संस्करणों की सूची सेट करने के लिए कॉलबैक देता है। |
ListAvailableServableIds () const override | virtual std::vector< ServableId > सभी उपलब्ध सर्व करने योग्य आईडी की सूची प्राप्त करता है, अर्थात |
स्ट्रक्चर्स | |
---|---|
tensorflow :: की सेवा :: AspiredVersionsManager :: विकल्प | कॉन्फ़िग विकल्प और प्लगेबल ऑब्जेक्ट द्वारा उपयोग किया जाएगा AspiredVersionsManager । |
सार्वजनिक प्रकार
प्रीलोडहुक
BasicManager::PreLoadHook PreLoadHook
मित्र वर्ग
आंतरिक::AspiredVersionsManagerTargetImpl
friend class internal::AspiredVersionsManagerTargetImpl
test_util::AspiredVersionsManagerTestAccess
friend class test_util::AspiredVersionsManagerTestAccess
सार्वजनिक स्थैतिक कार्य
सृजन करना
Status Create( Options options, std::unique_ptr< AspiredVersionsManager > *manager )
सार्वजनिक समारोह
GetAspiredVersionsCallback
Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override
लोडर का उपयोग करके किसी विशेष सेवा योग्य स्ट्रीम के लिए आकांक्षी संस्करणों की सूची सेट करने के लिए कॉलबैक देता है।
सूची उपलब्ध सर्व करने योग्य आईडी
virtual std::vector< ServableId > ListAvailableServableIds() const override
सभी उपलब्ध सर्व करने योग्य आईडी की सूची प्राप्त करता है, अर्थात
इनमें से प्रत्येक को GetServableHandle का उपयोग करके पुनर्प्राप्त किया जा सकता है।
~आकांक्षी संस्करण प्रबंधक
~AspiredVersionsManager() override