टेंसरफ़्लो:: सेवारत:: कैशिंग प्रबंधक

#include <caching_manager.h>

एक प्रबंधक जो मांग पर सर्वेबल का प्रबंधन और लोड करता है।

सारांश

एक सेवा योग्य नाम और वैकल्पिक संस्करण के लिए अनुरोध प्राप्त करने पर, प्रबंधक जांचता है कि क्या उसके पास पहले से अनुरोधित सेवा योग्य लोड है। यदि नहीं, तो यह लोड ऑपरेशन शुरू करता है और फिर अनुरोध को पूरा करता है।

प्रबंधक लोड ऑपरेशन पर ब्लॉक करता है और जब सर्व करने योग्य लोड हो जाता है, या त्रुटि पर हैंडल लौटाता है।

विरासत

से विरासत में मिली: tensorflow :: की सेवा :: प्रबंधक

निर्माता और विनाशक

~CachingManager ()

मित्र वर्ग

test_util::CachingManagerTestAccess
friend class

सार्वजनिक स्थैतिक कार्य

Create ( Options options, std::unique_ptr< LoaderFactory > loader_factory, std::unique_ptr< CachingManager > *caching_manager)
Status

सार्वजनिक समारोह

GetAvailableUntypedServableHandles () const override
virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > >
ListAvailableServableIds () const override
virtual std::vector< ServableId >
सभी उपलब्ध सर्व करने योग्य आईडी की सूची प्राप्त करता है, अर्थात

कक्षाओं

tensorflow :: की सेवा :: CachingManager :: LoaderFactory

एक लोडर-फैक्ट्री के लिए एक सेवा योग्य अनुरोध से संबंधित लोडर तक मैप करने के लिए एक अमूर्तता।

स्ट्रक्चर्स

tensorflow :: की सेवा :: CachingManager :: विकल्प

कॉन्फ़िग विकल्प और प्लगेबल ऑब्जेक्ट द्वारा उपयोग किया जाएगा CachingManager ।

मित्र वर्ग

test_util::CachingManagerTestAccess

friend class test_util::CachingManagerTestAccess

सार्वजनिक स्थैतिक कार्य

सृजन करना

Status Create(
  Options options,
  std::unique_ptr< LoaderFactory > loader_factory,
  std::unique_ptr< CachingManager > *caching_manager
)

सार्वजनिक समारोह

GetAvailableUntypedServableHandles

virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > > GetAvailableUntypedServableHandles() const override

सूची उपलब्ध सर्व करने योग्य आईडी

virtual std::vector< ServableId > ListAvailableServableIds() const override

सभी उपलब्ध सर्व करने योग्य आईडी की सूची प्राप्त करता है, अर्थात

इनमें से प्रत्येक को GetServableHandle का उपयोग करके पुनर्प्राप्त किया जा सकता है।

~ कैशिंग प्रबंधक

 ~CachingManager() override