텐서플로:: 피복재:: AspiredVersionsManager:: 옵션

#include <aspired_versions_manager.h>

구성 옵션과에 의해 사용되는 플러그 객체 AspiredVersionsManager .

요약

공개 속성

aspired_version_policy
std::unique_ptr< AspiredVersionPolicy >
AspiredVersionPolicy은 관리자에 사용할. null이 아니어야 합니다.
env = Env::Default()
Env *
스레드 풀에서 스레드를 시작하거나 잠자기 위해 사용할 환경입니다.
flush_filesystem_caches = false
bool
load_retry_interval_micros = 1LL * 60 * 1000 * 1000
int64
각 제공 가능한 로드 재시도 사이의 간격(마이크로초)입니다.
manage_state_interval_micros = 100 * 1000
int64
servable의 상태를 관리하는 스레드의 주기(마이크로초)입니다.
max_num_load_retries = 5
uint32
첫 번째 실패 후 포기하기 전에 서블릿 로드를 재시도하는 최대 횟수입니다.
num_load_threads = 0
uint32
servable을 로드하는 데 사용되는 스레드 풀의 스레드 수입니다.
num_unload_threads = 0
uint32
servable을 언로드하는 데 사용되는 스레드 풀의 스레드 수입니다.
pre_load_hook
PreLoadHook
servable이 로드되기 직전에 호출될 콜백입니다.
resource_tracker
std::unique_ptr< ResourceTracker >
제공 가능한 리소스를 관리하는 동안 사용할 리소스 추적기.
servable_event_bus = nullptr
EventBus< ServableState > *
EventBus는 제공 가능한 상태 변경 사항을 게시합니다.

공개 속성

spired_version_policy

std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy

AspiredVersionPolicy은 관리자에 사용할. null이 아니어야 합니다.

환경

Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()

스레드 풀에서 스레드를 시작하거나 잠자기 위해 사용할 환경입니다.

플러시_파일시스템_캐시

bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false

load_retry_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000

각 제공 가능한 로드 재시도 사이의 간격(마이크로초)입니다.

음수로 설정하면 기다리지 않습니다. 기본값: 1분.

관리_상태_간격_마이크로

int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000

servable의 상태를 관리하는 스레드의 주기(마이크로초)입니다.

기본값: 100밀리초. 이 값이 0보다 작거나 같으면 이 스레드를 전혀 실행하지 않습니다.

max_num_load_retries

uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5

첫 번째 실패 후 포기하기 전에 서블릿 로드를 재시도하는 최대 횟수입니다.

num_load_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0

servable을 로드하는 데 사용되는 스레드 풀의 스레드 수입니다.

0으로 설정하면 스레드 풀을 사용하지 않고 관리자의 기본 작업 루프에서 서빙 가능한 로드가 직렬로 수행됩니다.

num_unload_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0

servable을 언로드하는 데 사용되는 스레드 풀의 스레드 수입니다.

0으로 설정하면 스레드 풀을 사용하지 않고 관리자의 기본 작업 루프에서 서빙 가능한 언로드가 순차적으로 수행됩니다.

pre_load_hook

PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook

servable이 로드되기 직전에 호출될 콜백입니다.

이것은 로드를 시작하는 동일한 관리자 로드 스레드에서 호출됩니다.

resource_tracker

std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker

제공 가능한 리소스를 관리하는 동안 사용할 리소스 추적기.

선택 과목. nullptr로 남겨두면 제공 가능한 리소스 사용량을 검증하지 않습니다.

servable_event_bus

EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr

EventBus는 제공 가능한 상태 변경 사항을 게시합니다.

이것은 선택 사항이며 설정하지 않으면 게시하지 않습니다.