tensorflow :: servicio:: AspiredVersionsManager :: Opciones

#include <aspired_versions_manager.h>

Opciones de configuración y objetos conectables que serán utilizados por el AspiredVersionsManager .

Resumen

Atributos públicos

aspired_version_policy
std::unique_ptr< AspiredVersionPolicy >
El AspiredVersionPolicy a utilizar para el gerente. Debe ser no nulo.
env = Env::Default()
Env *
El entorno que se utilizará para iniciar subprocesos en el grupo de subprocesos o para dormir.
flush_filesystem_caches = false
bool
load_retry_interval_micros = 1LL * 60 * 1000 * 1000
int64
El intervalo, en microsegundos, entre cada reintento de carga útil.
manage_state_interval_micros = 100 * 1000
int64
La periodicidad, en microsegundos, del hilo que gestiona el estado de los servibles.
max_num_load_retries = 5
uint32
Número máximo de veces que volvemos a intentar cargar un servidor, después del primer error, antes de darnos por vencidos.
num_load_threads = 0
uint32
El número de subprocesos en el grupo de subprocesos utilizados para cargar servibles.
num_unload_threads = 0
uint32
El número de subprocesos en el grupo de subprocesos utilizados para descargar servibles.
pre_load_hook
PreLoadHook
La devolución de llamada se llamará justo antes de que se cargue un servidor.
resource_tracker
std::unique_ptr< ResourceTracker >
El rastreador de recursos que se utiliza al administrar los recursos servibles.
servable_event_bus = nullptr
EventBus< ServableState > *
EventBus para publicar cambios de estado de servicio.

Atributos públicos

aspired_version_policy

std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy

El AspiredVersionPolicy a utilizar para el gerente. Debe ser no nulo.

env

Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()

El entorno que se utilizará para iniciar subprocesos en el grupo de subprocesos o para dormir.

flush_filesystem_caches

bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false

load_retry_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000

El intervalo, en microsegundos, entre cada reintento de carga útil.

Si se establece en negativo, no esperamos. Predeterminado: 1 minuto.

manage_state_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000

La periodicidad, en microsegundos, del hilo que gestiona el estado de los servibles.

Predeterminado: 100 milisegundos. Si se establece en un valor menor o igual a 0, no ejecutamos este hilo en absoluto.

max_num_load_retries

uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5

Número máximo de veces que volvemos a intentar cargar un servidor, después del primer error, antes de darnos por vencidos.

num_load_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0

El número de subprocesos en el grupo de subprocesos utilizados para cargar servibles.

Si se establece en 0, no usamos un grupo de subprocesos y las cargas servibles se realizan en serie en el ciclo de trabajo principal del administrador.

num_unload_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0

El número de subprocesos en el grupo de subprocesos utilizados para descargar servibles.

Si se establece en 0, no usamos un grupo de subprocesos y las descargas servibles se realizan en serie en el ciclo de trabajo principal del administrador.

pre_load_hook

PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook

La devolución de llamada se llamará justo antes de que se cargue un servidor.

Esto llamará al mismo hilo de carga del administrador que inicia la carga.

rastreador_de_recursos

std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker

El rastreador de recursos que se utiliza al administrar los recursos servibles.

Opcional. Si se deja como nullptr, no validamos el uso de recursos servibles.

servable_event_bus

EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr

EventBus para publicar cambios de estado de servicio.

Esto es opcional, si no se configura, no publicamos.