此页面由 Cloud Translation API 翻译。
Switch to English

张量流:: 服务:: 缓存管理器

#include <caching_manager.h>

按需管理和加载可食用物料的经理。

摘要

收到要求提供可服务名称和可选版本的请求后,管理器将检查是否已加载了请求的可服务名称。如果不是,它将启动加载操作,然后处理请求。

管理器阻止加载操作,并在加载可服务对象时或发生错误时返回句柄。

遗产

继承自: tensorflow :: serving :: Manager

构造函数和析构函数

~CachingManager ()

朋友班

test_util::CachingManagerTestAccess
friend class

公共静态功能

Create ( Options options, std::unique_ptr< LoaderFactory > loader_factory, std::unique_ptr< CachingManager > *caching_manager)
Status

公共职能

GetAvailableUntypedServableHandles () const override
virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > >
ListAvailableServableIds () const override
virtual std::vector< ServableId >
获取所有可用的可服务ID的列表,即

班级

tensorflow ::服务:: CachingManager :: LoaderFactory

加载程序工厂从可服务请求映射到相应加载程序的抽象。

结构

tensorflow ::服务:: CachingManager ::选项

CachingManager将使用的配置选项和可插入对象。

朋友班

test_util :: CachingManagerTestAccess

friend class test_util::CachingManagerTestAccess

公共静态功能

创造

Status Create(
  Options options,
  std::unique_ptr< LoaderFactory > loader_factory,
  std::unique_ptr< CachingManager > *caching_manager
)

公共职能

GetAvailableUntypedServableHandles

virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > > GetAvailableUntypedServableHandles() const override

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

获取所有可用的可服务ID的列表,即

这些都可以使用GetServableHandle检索。

〜缓存管理器

 ~CachingManager() override