此页面由 Cloud Translation API 翻译。
Switch to English

张量流:: 服务

摘要

类型定义

LoaderSource 使用
Source < std::unique_ptr< Loader >>
StoragePathSourceAdapter 使用
SourceAdapter < StoragePath, std::unique_ptr< Loader >>

功能

DEFINE_CLASS_REGISTRY (StoragePathSourceAdapterRegistry, StoragePathSourceAdapter )
operator!= (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator!= (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator!= (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator!= (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool
operator<< (std::ostream & os, LoaderHarness::State state)
std::ostream &
operator<< (std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time)
std::ostream &
operator== (const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs)
bool
operator== (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator== (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator== (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator== (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool

班级

tensorflow ::服务:: AspiredVersionPolicy

该策略的接口,该策略将用于在可服务流中转换可服务版本。

tensorflow ::服务:: AspiredVersionsManager

一个实现Target < Loader > API的管理器,该API使用有向向版本的回调来指示要加载的可服务版本。

tensorflow ::服务:: AspiredVersionsManagerBuilder

生成一个AspiredVersionsManager并连接选项和源。

tensorflow ::服务:: BasicManager

帮助管理服务项目的生命周期,包括加载,服务和卸载它们。

tensorflow ::服务:: CachingManager

按需管理和加载可食用物料的经理。

tensorflow ::服务::分类器接口

用于执行分类的模型类型不可知接口。

tensorflow ::服务:: ErrorInjectingSourceAdapter
tensorflow ::服务:: FileSystemStoragePathSource

可以查询给定一组可服务对象版本的存储路径源。

tensorflow ::服务::加载程序

管理可服务对象生命周期(包括加载和卸载)的对象的标准化抽象。

tensorflow ::服务:: LoaderHarness

LoaderHarness是插件的管理使用扶住和谈话的装载机 ,同时它拥有它。

tensorflow ::服务::经理

Manager负责通过其Loader加载,卸载,查找和管理所有Servable对象的生命周期。

tensorflow ::服务:: PathPrefixLoaderFactory

一个简单的LoaderFactory,它在通过将固定路径前缀与服务对象的名称连接而形成的路径中寻找服务对象。

tensorflow ::服务:: RegressorInterface

用于执行回归的模型不可知接口。

tensorflow ::服务:: ResourceUnsafeLoader

忽略资源的装载程序

tensorflow ::服务:: SavedModelBundleFactory

从SavedModel或SessionBundle导出路径创建SavedModelBundles的工厂。

tensorflow ::服务:: ServableHandle

指向从Loader检索的基础可服务对象T的智能指针。

tensorflow ::服务:: ServableStateMonitor

侦听EventBus <ServableState>并跟踪总线上提到的每个可服务状态的实用程序。

tensorflow ::服务:: ServerCore

ServerCore包含状态和帮助程序方法,这些方法允许构建支持多个接口的ModelServer。

tensorflow ::服务:: ServingSession

一个会话,该会话阻止状态更改方法(例如Close()),同时允许Run()进行只读访问(未强制执行)。

tensorflow ::服务:: ServingSessionWrapper

一个ServingSession ,它包装给定的Session,并阻止除Run()之外的所有调用。

tensorflow ::服务:: SharedPtrHandle

UntypedServableHandle的实现,使用shared_ptr在拥有Servable的加载程序上进行引用计数。

tensorflow ::服务::源

一个模块的抽象,该模块提供可加载的servable,或更精确地讲,处理可用于加载这些servable的数据。

tensorflow ::服务:: SourceAdapter

一个模块的抽象,该模块接收具有InputType类型数据的有向版本的回调,并将其转换为具有OutputType类型数据的调用。

tensorflow ::服务:: UnarySourceAdapter
tensorflow ::服务:: UntypedServableHandle

servable的非模板化句柄,在Manager中内部使用,以从Loader检索类型擦除的servable对象。

结构

张量流::服务:: AspiredServableStateSnapshot

servable的状态和期望的快照。

tensorflow ::服务:: ServableRequest

查询特定已加载的可服务对象。

张量流::服务:: ServableStateSnapshot

命名空间

tensorflow ::服务::内部
tensorflow ::服务:: test_util

类型定义

LoaderSource

Source< std::unique_ptr< Loader >> LoaderSource

StoragePathSourceAdapter

SourceAdapter< StoragePath, std::unique_ptr< Loader >> StoragePathSourceAdapter

功能

DEFINE_CLASS_REGISTRY

018

操作员!=

bool operator!=(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

操作员!=

bool operator!=(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

操作员!=

constexpr bool operator!=(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

操作员!=

bool operator!=(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)

运算符<<

std::ostream & operator<<(
  std::ostream & os,
  LoaderHarness::State state
)

运算符<<

std::ostream & operator<<(
  std::ostream & os,
  const ServableStateMonitor::ServableStateAndTime & state_and_time
)

运算符==

bool operator==(
  const AspiredVersionPolicy::ServableAction & lhs,
  const AspiredVersionPolicy::ServableAction & rhs
)

运算符==

bool operator==(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

运算符==

bool operator==(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

运算符==

constexpr bool operator==(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

运算符==

bool operator==(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)