टेंसरफ़्लो:: सेवारत:: आकांक्षी संस्करण प्रबंधक

#include <aspired_versions_manager.h>

एक प्रबंधक है कि औजार लक्ष्य < लोडर > एपीआई जो उपयोग करता करवा आकांक्षी-संस्करणों कॉलबैक लोड करने के लिए जो servable संस्करणों।

सारांश

यह प्रबंधक उस एपीआई का उपयोग यह अनुमान लगाने के लिए भी करता है कि किन लोगों को अनलोड करना है: यदि कोई दिया जाने योग्य संस्करण वर्तमान में लोड किया गया है, और इसकी सेवा योग्य स्ट्रीम से संबंधित एक आकांक्षी-संस्करण कॉलबैक आमंत्रण से छोड़ा गया है, तो यह प्रबंधक उस चूक को अनलोड करने के लिए एक निहित निर्देश के रूप में व्याख्या करता है संस्करण। विवरण के लिए नीचे देखें।

(अंतर्निहित-अनलोड अर्थ विज्ञान की सुविधा राज्यविहीन स्रोत कार्यान्वयन, जिससे की दी गई यात्रा स्रोत के तर्क बस का फैसला करता है जो एक servable के संस्करणों, लोड करने के लिए पता है कि यह अतीत में फैसला किया है की जरूरत के बिना चाहिए।)

यह प्रबंधक कॉन्फ़िगर का उपयोग कर एक servable धारा के संस्करणों के बीच संक्रमण बनाता AspiredVersionPolicy । नीति द्वारा सुझाए गए संक्रमणों के बीच निर्णय लेते समय प्रबंधक सर्वर में संसाधनों को मुक्त करने के लिए लोड करने से पहले अनलोडिंग को प्राथमिकता देता है।

विरासत

: से विरासत में मिली tensorflow :: की सेवा :: प्रबंधक , लक्ष्य <std :: unique_ptr <लोडर>>

निर्माता और विनाशक

~AspiredVersionsManager ()

सार्वजनिक प्रकार

PreLoadHook का उपयोग करते हुए
BasicManager::PreLoadHook

मित्र वर्ग

internal::AspiredVersionsManagerTargetImpl
friend class
test_util::AspiredVersionsManagerTestAccess
friend class

सार्वजनिक स्थैतिक कार्य

Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager)
Status

सार्वजनिक समारोह

GetAspiredVersionsCallback () override
Source < std::unique_ptr< Loader > >::AspiredVersionsCallback
लोडर का उपयोग करके किसी विशेष सेवा योग्य स्ट्रीम के लिए आकांक्षी संस्करणों की सूची सेट करने के लिए कॉलबैक देता है।
ListAvailableServableIds () const override
virtual std::vector< ServableId >
सभी उपलब्ध सर्व करने योग्य आईडी की सूची प्राप्त करता है, अर्थात

स्ट्रक्चर्स

tensorflow :: की सेवा :: AspiredVersionsManager :: विकल्प

कॉन्फ़िग विकल्प और प्लगेबल ऑब्जेक्ट द्वारा उपयोग किया जाएगा AspiredVersionsManager

सार्वजनिक प्रकार

प्रीलोडहुक

BasicManager::PreLoadHook PreLoadHook

मित्र वर्ग

आंतरिक::AspiredVersionsManagerTargetImpl

friend class internal::AspiredVersionsManagerTargetImpl

test_util::AspiredVersionsManagerTestAccess

friend class test_util::AspiredVersionsManagerTestAccess

सार्वजनिक स्थैतिक कार्य

सृजन करना

Status Create(
  Options options,
  std::unique_ptr< AspiredVersionsManager > *manager
)

सार्वजनिक समारोह

GetAspiredVersionsCallback

Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override

लोडर का उपयोग करके किसी विशेष सेवा योग्य स्ट्रीम के लिए आकांक्षी संस्करणों की सूची सेट करने के लिए कॉलबैक देता है।

सूची उपलब्ध सर्व करने योग्य आईडी

virtual std::vector< ServableId > ListAvailableServableIds() const override

सभी उपलब्ध सर्व करने योग्य आईडी की सूची प्राप्त करता है, अर्थात

इनमें से प्रत्येक को GetServableHandle का उपयोग करके पुनर्प्राप्त किया जा सकता है।

~आकांक्षी संस्करण प्रबंधक

 ~AspiredVersionsManager() override