tensorflow :: ভজনা:: সংরক্ষিত মডেলবান্ডল ফ্যাক্টরি
#include <saved_model_bundle_factory.h>
একটি কারখানা যা SavedModel বা SessionBundle এক্সপোর্ট পাথ থেকে SavedModelBundles তৈরি করে।
সারসংক্ষেপ
নির্গত সেশনগুলি শুধুমাত্র Run() সমর্থন করে, এবং যদিও এটি প্রয়োগ করা হয়নি তা প্রত্যাশিত যে ক্লায়েন্ট শুধুমাত্র নন-মিউটেটিং Run() কল করবে। (যদি এই নিষেধাজ্ঞা, যা আমরা একটি নিরাপত্তা পরিমাপ হিসাবে যোগ করেছি, তা আপনার ব্যবহারের ক্ষেত্রে সমস্যাযুক্ত হলে এটি নিষ্ক্রিয় করার বিষয়ে আলোচনা করতে দয়া করে TensorFlow সার্ভিং দলের সাথে যোগাযোগ করুন।)
যদি কনফিগারেশন ব্যাচিংয়ের জন্য কল করে, তাহলে নির্গত সেশনগুলি ফ্যাক্টরির মালিকানাধীন একটি SharedBatchScheduler ব্যবহার করে পর্দার আড়ালে রান() কলগুলিকে স্বয়ংক্রিয়ভাবে ব্যাচ করে। 'config.num_batch_threads' থ্রেডগুলি এই ফ্যাক্টরি দ্বারা তৈরি সমস্ত সেশন ইন্সট্যান্স জুড়ে শেয়ার করা হয়। যাইহোক, প্রতিটি সেশনের 'config.max_enqueued_batches' আকারের নিজস্ব ডেডিকেটেড সারি রয়েছে।
কারখানাটি SavedModel-এর উপর ভিত্তি করে (যেমন সেশন লোড করার আগে) একটি SavedModelBundle-এর রিসোর্স (যেমন RAM) প্রয়োজনীয়তাও অনুমান করতে পারে।
এই ক্লাস থ্রেড নিরাপদ.
পাবলিক স্ট্যাটিক ফাংশন | |
---|---|
Create (const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory) | Status একটি Instantiates SavedModelBundleFactory কনফিগ ব্যবহার করে। |
পাবলিক ফাংশন | |
---|---|
CreateSavedModelBundle (const string & path, std::unique_ptr< SavedModelBundle > *bundle) | Status একটি প্রদত্ত রপ্তানি বা সংরক্ষিত মডেল পাথ থেকে একটি বান্ডিলকে সূচনা করে৷ |
CreateSavedModelBundleWithMetadata (const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle) | Status একটি প্রদত্ত রপ্তানি বা SavedModel পাথ এবং প্রদত্ত মেটাডেটা থেকে একটি বান্ডিলকে তাত্ক্ষণিক করে৷ |
EstimateResourceRequirement (const string & path, ResourceAllocation *estimate) const | Status একটি SavedModel বান্ডেল একবার লোড হওয়ার পরে তার রপ্তানি পথ থেকে যে সংস্থানগুলি ব্যবহার করবে তা অনুমান করে৷ |
config () const | const SessionBundleConfig & |
পাবলিক স্ট্যাটিক ফাংশন
সৃষ্টি
Status Create( const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory )
একটি Instantiates SavedModelBundleFactory কনফিগ ব্যবহার করে।
বিস্তারিত | |||||
---|---|---|---|---|---|
পরামিতি |
|
পাবলিক ফাংশন
SavedModelBundle তৈরি করুন
Status CreateSavedModelBundle( const string & path, std::unique_ptr< SavedModelBundle > *bundle )
একটি প্রদত্ত রপ্তানি বা সংরক্ষিত মডেল পাথ থেকে একটি বান্ডিলকে সূচনা করে৷
বিস্তারিত | |||||
---|---|---|---|---|---|
পরামিতি |
|
SavedModelBundleWithMetadata তৈরি করুন
Status CreateSavedModelBundleWithMetadata( const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle )
একটি প্রদত্ত রপ্তানি বা SavedModel পাথ এবং প্রদত্ত মেটাডেটা থেকে একটি বান্ডিলকে তাত্ক্ষণিক করে৷
বিস্তারিত | |||||||
---|---|---|---|---|---|---|---|
পরামিতি |
|
অনুমান সম্পদের প্রয়োজন
Status EstimateResourceRequirement( const string & path, ResourceAllocation *estimate ) const
একটি SavedModel বান্ডেল একবার লোড হওয়ার পরে তার রপ্তানি পথ থেকে যে সংস্থানগুলি ব্যবহার করবে তা অনুমান করে৷
বিস্তারিত | |||||
---|---|---|---|---|---|
পরামিতি |
|
কনফিগারেশন
const SessionBundleConfig & config() const