此页面由 Cloud Translation API 翻译。
Switch to English

张量流:: 服务:: AspiredVersionsManager :: 选件

#include <aspired_versions_manager.h>

AspiredVersionsManager将使用的配置选项和可插入对象。

摘要

公共属性

aspired_version_policy
std::unique_ptr< AspiredVersionPolicy >
经理使用的AspiredVersionPolicy 。必须为非null。
env = Env::Default()
Env *
用于在线程池中启动线程或用于休眠的环境。
flush_filesystem_caches = false
bool
load_retry_interval_micros = 1LL * 60 * 1000 * 1000
int64
每次可重试的负载之间的间隔(以微秒为单位)。
manage_state_interval_micros = 100 * 1000
int64
管理服务对象状态的线程的周期(以微秒为单位)。
max_num_load_retries = 5
uint32
在第一次失败之后,我们放弃尝试重试可服务对象的最大次数。
num_load_threads = 0
uint32
线程池中用于加载可服务对象的线程数。
num_unload_threads = 0
uint32
线程池中用于卸载可服务对象的线程数。
pre_load_hook
PreLoadHook
即将加载servable之前要调用的回调。
resource_tracker
std::unique_ptr< ResourceTracker >
管理可用资源时要使用的资源跟踪器。
servable_event_bus = nullptr
EventBus< ServableState > *
EventBus发布可用的状态更改。

公共属性

aspired_version_policy

std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy

经理使用的AspiredVersionPolicy 。必须为非null。

环保

Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()

用于在线程池中启动线程或用于休眠的环境。

flush_filesystem_caches

bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false

load_retry_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000

每次可重试的负载之间的间隔(以微秒为单位)。

如果设置为负数,我们不会等待。默认值:1分钟。

manage_state_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000

管理服务对象状态的线程的周期(以微秒为单位)。

默认值:100毫秒。如果将其设置为小于或等于0,则根本不运行该线程。

max_num_load_retries

uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5

在第一次失败之后,我们放弃尝试重试可服务对象的最大次数。

num_load_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0

线程池中用于加载可服务对象的线程数。

如果设置为0,则不使用线程池,可服务负载在管理器的主工作循环中按顺序执行。

num_unload_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0

线程池中用于卸载可服务对象的线程数。

如果设置为0,则不使用线程池,可服务的卸载在管理器的主工作循环中按顺序执行。

pre_load_hook

PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook

即将加载servable之前要调用的回调。

这将在启动加载的同一管理器加载线程上调用。

resource_tracker

std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker

管理可用资源时要使用的资源跟踪器。

可选的。如果保留为nullptr,则不会验证可使用的资源使用情况。

servable_event_bus

EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr

EventBus发布可用的状态更改。

这是可选的,如果未设置,我们不会发布。