tensör akışı:: hizmet veren:: KaydedilenModelBundleFabrika

#include <saved_model_bundle_factory.h>

SavedModel veya SessionBundle dışa aktarma yollarından SavedModelBundles oluşturan bir fabrika.

Özet

Yayılan oturumlar yalnızca Run()'ı destekler ve zorunlu tutulmasa da istemcinin yalnızca mutasyona uğramayan Run() çağrıları yapması beklenir. (Güvenlik önlemi olarak eklediğimiz bu kısıtlama, kullanım durumunuz için sorun teşkil ediyorsa, devre dışı bırakılmasını görüşmek için lütfen TensorFlow Hizmet ekibiyle iletişime geçin.)

Yapılandırma toplu işleme için çağrıda bulunursa, yayılan oturumlar fabrikanın sahip olduğu bir SharedBatchScheduler kullanarak otomatik olarak toplu Run() çağrılarını arka planda gerçekleştirir. 'config.num_batch_threads' iş parçacıkları, bu fabrika tarafından oluşturulan tüm oturum örneklerinde paylaşılır. Ancak, her oturumun kendi özel 'config.max_enqueued_batch' boyutu kuyruğu vardır.

Fabrika ayrıca SavedModel'e dayalı olarak (yani oturumu yüklemeden önce) bir SavedModelBundle'ın kaynak (örneğin RAM) gereksinimlerini tahmin edebilir.

Bu sınıf iş parçacığı için güvenlidir.

Genel statik işlevler
Create (const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory)	Status Bir ilklendirdikten SavedModelBundleFactory bir yapılandırma kullanarak.

Kamu işlevleri
CreateSavedModelBundle (const string & path, std::unique_ptr< SavedModelBundle > *bundle)	Status Belirli bir dışa aktarma veya SavedModel yolundan bir paket örneği oluşturur.
CreateSavedModelBundleWithMetadata (const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle)	Status Belirli bir dışa aktarma veya SavedModel yolundan ve verilen meta verilerden bir paket oluşturur.
EstimateResourceRequirement (const string & path, ResourceAllocation *estimate) const	Status Bir SavedModel paketinin yüklendikten sonra dışa aktarma yolundan kullanacağı kaynakları tahmin eder.
config () const	const SessionBundleConfig &

Genel statik işlevler

Yaratmak

Status Create(
  const SessionBundleConfig & config,
  std::unique_ptr< SavedModelBundleFactory > *factory
)

Bir ilklendirdikten SavedModelBundleFactory bir yapılandırma kullanarak.

Detaylar
parametreler	config Başlatma seçenekleriyle yapılandırın. factory Döndürülen Durum uygunsa yeni oluşturulan fabrika.

Kamu işlevleri

CreateSavedModelBundle

Status CreateSavedModelBundle(
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

Belirli bir dışa aktarma veya SavedModel yolundan bir paket örneği oluşturur.

Detaylar
parametreler	path Modele giden yol. bundle Döndürülen Durum uygunsa, yeni oluşturulan SavedModelBundle.

CreateSavedModelBundleWithMetadata

Status CreateSavedModelBundleWithMetadata(
  const Loader::Metadata & metadata,
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

Belirli bir dışa aktarma veya SavedModel yolundan ve verilen meta verilerden bir paket oluşturur.

Detaylar
parametreler	metadata Paketle ilişkilendirilecek meta veriler. path Modele giden yol. bundle Döndürülen Durum uygunsa, yeni oluşturulan SavedModelBundle.

TahminKaynakGereksinim

Status EstimateResourceRequirement(
  const string & path,
  ResourceAllocation *estimate
) const 

Bir SavedModel paketinin yüklendikten sonra dışa aktarma yolundan kullanacağı kaynakları tahmin eder.

Detaylar
parametreler	path Modele giden yol. estimate Çıktı kaynak kullanım tahminleri. Farklı türde kaynaklar (örneğin CPU, RAM, vb.) doldurulabilir.

yapılandırma

const SessionBundleConfig & config() const