टेंसरफ़्लो:: सेवारत:: सहेजा गया मॉडल बंडल फैक्टरी

#include <saved_model_bundle_factory.h>

एक कारखाना जो सेव्डमॉडल या सेशनबंडल निर्यात पथ से सेव्डमॉडलबंडल बनाता है।

सारांश

उत्सर्जित सत्र केवल रन () का समर्थन करते हैं, और हालांकि इसे लागू नहीं किया गया है, यह अपेक्षा की जाती है कि क्लाइंट केवल गैर-म्यूटिंग रन () कॉल करेगा। (यदि यह प्रतिबंध, जिसे हमने सुरक्षा उपाय के रूप में जोड़ा है, आपके उपयोग के मामले में समस्याग्रस्त है, तो कृपया इसे अक्षम करने पर चर्चा करने के लिए TensorFlow सर्विंग टीम से संपर्क करें।)

यदि कॉन्फ़िगरेशन बैचिंग के लिए कॉल करता है, तो उत्सर्जित सत्र स्वचालित रूप से फ़ैक्टरी के स्वामित्व वाले SharedBatchScheduler का उपयोग करके दृश्यों के पीछे रन () कॉल करता है। 'config.num_batch_threads' थ्रेड इस फ़ैक्टरी द्वारा बनाए गए सभी सत्र इंस्टेंस में साझा किए जाते हैं। हालांकि, प्रत्येक सत्र की 'config.max_enqueued_batches' आकार की अपनी समर्पित कतार होती है।

फ़ैक्टरी सहेजे गए मॉडल (यानी सत्र लोड करने से पहले) के आधार पर सहेजे गए मॉडलबंडल की संसाधन (उदाहरण के लिए रैम) आवश्यकताओं का भी अनुमान लगा सकता है।

यह वर्ग थ्रेड-सुरक्षित है।

सार्वजनिक स्थैतिक कार्य
Create (const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory)	Status एक को दर्शाता है SavedModelBundleFactory एक config का उपयोग कर।

सार्वजनिक समारोह
CreateSavedModelBundle (const string & path, std::unique_ptr< SavedModelBundle > *bundle)	Status किसी दिए गए निर्यात या सहेजे गए मॉडल पथ से एक बंडल को तत्काल करता है।
CreateSavedModelBundleWithMetadata (const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle)	Status किसी दिए गए निर्यात या सहेजे गए मॉडल पथ और दिए गए मेटाडेटा से एक बंडल को इंस्टेंट करता है।
EstimateResourceRequirement (const string & path, ResourceAllocation *estimate) const	Status संसाधनों का अनुमान लगाता है कि एक सहेजा गया मॉडल बंडल अपने निर्यात पथ से लोड होने के बाद उपयोग करेगा।
config () const	const SessionBundleConfig &

सार्वजनिक स्थैतिक कार्य

सृजन करना

Status Create(
  const SessionBundleConfig & config,
  std::unique_ptr< SavedModelBundleFactory > *factory
)

एक को दर्शाता है SavedModelBundleFactory एक config का उपयोग कर।

विवरण
मापदंडों	config आरंभीकरण विकल्पों के साथ कॉन्फ़िगर करें। factory नव निर्मित कारखाना यदि लौटाया गया स्थिति ठीक है।

सार्वजनिक समारोह

CreateSavedModelBundle

Status CreateSavedModelBundle(
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

किसी दिए गए निर्यात या सहेजे गए मॉडल पथ से एक बंडल को तत्काल करता है।

विवरण
मापदंडों	path मॉडल के लिए पथ। bundle यदि लौटाई गई स्थिति ठीक है, तो नव निर्मित SavedModelBundle।

CreateSavedModelBundleWithMetadata

Status CreateSavedModelBundleWithMetadata(
  const Loader::Metadata & metadata,
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

किसी दिए गए निर्यात या सहेजे गए मॉडल पथ और दिए गए मेटाडेटा से एक बंडल को इंस्टेंट करता है।

विवरण
मापदंडों	metadata बंडल के साथ जोड़ा जाने वाला मेटाडेटा. path मॉडल के लिए पथ। bundle यदि लौटाई गई स्थिति ठीक है, तो नव निर्मित SavedModelBundle।

अनुमान संसाधन आवश्यकता

Status EstimateResourceRequirement(
  const string & path,
  ResourceAllocation *estimate
) const 

संसाधनों का अनुमान लगाता है कि एक सहेजा गया मॉडल बंडल अपने निर्यात पथ से लोड होने के बाद उपयोग करेगा।

विवरण
मापदंडों	path मॉडल के लिए पथ। estimate आउटपुट संसाधन उपयोग अनुमान। विभिन्न प्रकार के संसाधन (जैसे सीपीयू, रैम, आदि) आबाद हो सकते हैं।

कॉन्फ़िग

const SessionBundleConfig & config() const