此页面由 Cloud Translation API 翻译。
Switch to English

张量流:: 服务:: 经理

这是一个抽象类。

#include <manager.h>

Manager负责通过其Loader加载,卸载,查找和管理所有Servable对象的生命周期。

摘要

遗产

直接已知子类: tensorflow :: serving :: AspiredVersionsManagertensorflow :: serving :: BasicManagertensorflow :: serving :: CachingManagertensorflow :: serving :: ServerCore

构造函数和析构函数

~Manager ()

公共职能

GetAvailableServableHandles () const
std::map< ServableId, ServableHandle < T > >
返回特定类型T的所有当前可用servable的映射。
GetServableHandle (const ServableRequest & request, ServableHandle < T > *const handle)
Status
ListAvailableServableIds () const =0
virtual std::vector< ServableId >
获取所有可用的可服务ID的列表,即

公共职能

GetAvailableServableHandles

std::map< ServableId, ServableHandle< T > > GetAvailableServableHandles() const 

返回特定类型T的所有当前可用servable的映射。

映射是从servable的ID到其对应的句柄。

重要说明:呼叫者不应长时间握住手柄,因为握住手柄会延迟可服务的装卸。

GetServableHandle

Status GetServableHandle(
  const ServableRequest & request,
  ServableHandle< T > *const handle
)

返回ServableHandle给予ServableRequest

如果没有可用的此类Servable(例如尚未加载,已被静默/卸载等),则返回错误。调用者可能会认为OK状态指示非空句柄。

重要说明:呼叫者不应长时间握住手柄,因为握住手柄会延迟可服务的装卸。

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const =0

获取所有可用的可服务ID的列表,即

这些都可以使用GetServableHandle检索。

〜经理

virtual  ~Manager()=default