tensorflow :: ভজনা:: সংরক্ষিত মডেলবান্ডল ফ্যাক্টরি

#include <saved_model_bundle_factory.h>

একটি কারখানা যা SavedModel বা SessionBundle এক্সপোর্ট পাথ থেকে SavedModelBundles তৈরি করে।

সারসংক্ষেপ

নির্গত সেশনগুলি শুধুমাত্র Run() সমর্থন করে, এবং যদিও এটি প্রয়োগ করা হয়নি তা প্রত্যাশিত যে ক্লায়েন্ট শুধুমাত্র নন-মিউটেটিং Run() কল করবে। (যদি এই নিষেধাজ্ঞা, যা আমরা একটি নিরাপত্তা পরিমাপ হিসাবে যোগ করেছি, তা আপনার ব্যবহারের ক্ষেত্রে সমস্যাযুক্ত হলে এটি নিষ্ক্রিয় করার বিষয়ে আলোচনা করতে দয়া করে TensorFlow সার্ভিং দলের সাথে যোগাযোগ করুন।)

যদি কনফিগারেশন ব্যাচিংয়ের জন্য কল করে, তাহলে নির্গত সেশনগুলি ফ্যাক্টরির মালিকানাধীন একটি SharedBatchScheduler ব্যবহার করে পর্দার আড়ালে রান() কলগুলিকে স্বয়ংক্রিয়ভাবে ব্যাচ করে। 'config.num_batch_threads' থ্রেডগুলি এই ফ্যাক্টরি দ্বারা তৈরি সমস্ত সেশন ইন্সট্যান্স জুড়ে শেয়ার করা হয়। যাইহোক, প্রতিটি সেশনের 'config.max_enqueued_batches' আকারের নিজস্ব ডেডিকেটেড সারি রয়েছে।

কারখানাটি SavedModel-এর উপর ভিত্তি করে (যেমন সেশন লোড করার আগে) একটি SavedModelBundle-এর রিসোর্স (যেমন RAM) প্রয়োজনীয়তাও অনুমান করতে পারে।

এই ক্লাস থ্রেড নিরাপদ.

পাবলিক স্ট্যাটিক ফাংশন
Create (const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory)	Status একটি Instantiates SavedModelBundleFactory কনফিগ ব্যবহার করে।

পাবলিক ফাংশন
CreateSavedModelBundle (const string & path, std::unique_ptr< SavedModelBundle > *bundle)	Status একটি প্রদত্ত রপ্তানি বা সংরক্ষিত মডেল পাথ থেকে একটি বান্ডিলকে সূচনা করে৷
CreateSavedModelBundleWithMetadata (const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle)	Status একটি প্রদত্ত রপ্তানি বা SavedModel পাথ এবং প্রদত্ত মেটাডেটা থেকে একটি বান্ডিলকে তাত্ক্ষণিক করে৷
EstimateResourceRequirement (const string & path, ResourceAllocation *estimate) const	Status একটি SavedModel বান্ডেল একবার লোড হওয়ার পরে তার রপ্তানি পথ থেকে যে সংস্থানগুলি ব্যবহার করবে তা অনুমান করে৷
config () const	const SessionBundleConfig &

পাবলিক স্ট্যাটিক ফাংশন

সৃষ্টি

Status Create(
  const SessionBundleConfig & config,
  std::unique_ptr< SavedModelBundleFactory > *factory
)

একটি Instantiates SavedModelBundleFactory কনফিগ ব্যবহার করে।

বিস্তারিত
পরামিতি	config আরম্ভ করার বিকল্পগুলির সাথে কনফিগার করুন। factory ফিরে আসা স্ট্যাটাস ঠিক থাকলে নতুন তৈরি কারখানা।

পাবলিক ফাংশন

SavedModelBundle তৈরি করুন

Status CreateSavedModelBundle(
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

একটি প্রদত্ত রপ্তানি বা সংরক্ষিত মডেল পাথ থেকে একটি বান্ডিলকে সূচনা করে৷

বিস্তারিত
পরামিতি	path মডেলের পথ। bundle ফিরে আসা স্ট্যাটাস ঠিক থাকলে নতুন তৈরি করা SavedModelBundle।

SavedModelBundleWithMetadata তৈরি করুন

Status CreateSavedModelBundleWithMetadata(
  const Loader::Metadata & metadata,
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

একটি প্রদত্ত রপ্তানি বা SavedModel পাথ এবং প্রদত্ত মেটাডেটা থেকে একটি বান্ডিলকে তাত্ক্ষণিক করে৷

বিস্তারিত
পরামিতি	metadata মেটাডেটা বান্ডিলের সাথে যুক্ত হতে হবে। path মডেলের পথ। bundle ফিরে আসা স্ট্যাটাস ঠিক থাকলে নতুন তৈরি করা SavedModelBundle।

অনুমান সম্পদের প্রয়োজন

Status EstimateResourceRequirement(
  const string & path,
  ResourceAllocation *estimate
) const 

একটি SavedModel বান্ডেল একবার লোড হওয়ার পরে তার রপ্তানি পথ থেকে যে সংস্থানগুলি ব্যবহার করবে তা অনুমান করে৷

বিস্তারিত
পরামিতি	path মডেলের পথ। estimate আউটপুট সম্পদ ব্যবহার অনুমান. বিভিন্ন ধরনের সম্পদ (যেমন CPU, RAM, ইত্যাদি) জনবহুল হতে পারে।

কনফিগারেশন

const SessionBundleConfig & config() const