此页面由 Cloud Translation API 翻译。
Switch to English

张量流:: 服务:: SavedModelBundleFactory

#include <saved_model_bundle_factory.h>

从SavedModel或SessionBundle导出路径创建SavedModelBundles的工厂。

摘要

发出的会话仅支持Run(),尽管未强制执行,但预计客户端将仅进行不可变的Run()调用。 (如果此限制(我们已将其添加为安全措施)对于您的用例存在问题,请与TensorFlow服务团队联系,以讨论如何禁用它。)

如果配置要求进行批处理,则发出的会话将使用工厂拥有的SharedBatchScheduler自动在后台批处理Run()调用。在此工厂创建的所有会话实例之间共享“ config.num_batch_threads”线程。但是,每个会话都有自己的专用队列,大小为“ config.max_enqueued_batches”。

工厂还可以基于SavedModel来估算SavedModelBundle的资源(例如,RAM)需求(即,在加载会话之前)。

此类是线程安全的。

公共静态功能

Create (const SessionBundleConfig & config, std::unique_ptr< SavedModelBundleFactory > *factory)
Status
使用配置实例化SavedModelBundleFactory

公共职能

CreateSavedModelBundle (const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
从给定的导出或SavedModel路径实例化包。
CreateSavedModelBundleWithMetadata (const Loader::Metadata & metadata, const string & path, std::unique_ptr< SavedModelBundle > *bundle)
Status
从给定的导出或SavedModel路径以及给定的元数据实例化一个包。
EstimateResourceRequirement (const string & path, ResourceAllocation *estimate) const
Status
估计SavedModel捆绑软件从其导出路径加载后将使用的资源。
config () const
const SessionBundleConfig &

公共静态功能

创造

959

使用配置实例化SavedModelBundleFactory

细节
参量
config
使用初始化选项进行配置。
factory
如果返回的状态为OK,则新建工厂。

公共职能

CreateSavedModelBundle

Status CreateSavedModelBundle(
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

从给定的导出或SavedModel路径实例化一个包。

细节
参量
path
模型的路径。
bundle
如果返回的状态正确,则新创建的SavedModelBundle。

CreateSavedModelBundleWithMetadata

Status CreateSavedModelBundleWithMetadata(
  const Loader::Metadata & metadata,
  const string & path,
  std::unique_ptr< SavedModelBundle > *bundle
)

从给定的导出或SavedModel路径以及给定的元数据实例化一个包。

细节
参量
metadata
与包关联的元数据。
path
模型的路径。
bundle
如果返回的状态为OK,则新创建的SavedModelBundle。

EstimateResourceRequirement

768

估计SavedModel捆绑软件从其导出路径加载后将使用的资源。

细节
参量
path
模型的路径。
estimate
输出资源使用估计。可能会填充不同类型的资源(例如CPU,RAM等)。

配置

const SessionBundleConfig & config() const