тензорный поток :: сервировка :: AspiredVersionsManager :: Опции
#include <aspired_versions_manager.h>Параметры конфигурации и вставные объекты , которые будут использоваться в AspiredVersionsManager .
Резюме
Публичные атрибуты | |
|---|---|
aspired_version_policy | std::unique_ptr< AspiredVersionPolicy > AspiredVersionPolicy использовать для менеджера. Должен быть ненулевым. |
env = Env::Default() | Env * Среда, используемая для запуска потоков в пуле потоков или для сна. |
flush_filesystem_caches = false | bool |
load_retry_interval_micros = 1LL * 60 * 1000 * 1000 | int64 Интервал в микросекундах между каждым повторением обслуживаемой загрузки. |
manage_state_interval_micros = 100 * 1000 | int64 Периодичность в микросекундах потока, который управляет состоянием обслуживаемых элементов. |
max_num_load_retries = 5 | uint32 Максимальное количество повторных попыток загрузки обслуживаемого объекта после первого сбоя, прежде чем мы откажемся от него. |
num_load_threads = 0 | uint32 Число потоков в пуле потоков, используемых для загрузки обслуживаемых объектов. |
num_unload_threads = 0 | uint32 Число потоков в пуле потоков, используемых для выгрузки обслуживаемых объектов. |
pre_load_hook | PreLoadHook Обратный вызов вызывается непосредственно перед загрузкой обслуживаемого объекта. |
resource_tracker | std::unique_ptr< ResourceTracker > Счетчик ресурсов для использования при управлении обслуживаемыми ресурсами. |
servable_event_bus = nullptr | EventBus< ServableState > * EventBus для публикации изменений обслуживаемого состояния. |
Публичные атрибуты
aspired_version_policy
std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy
AspiredVersionPolicy использовать для менеджера. Должен быть ненулевым.
env
Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()
Среда, используемая для запуска потоков в пуле потоков или для сна.
flush_filesystem_caches
bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false
load_retry_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000
Интервал в микросекундах между каждым повторением обслуживаемой загрузки.
Если установлено отрицательное, мы не ждем. По умолчанию: 1 минута.
manage_state_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000
Периодичность в микросекундах потока, который управляет состоянием обслуживаемых элементов.
По умолчанию: 100 миллисекунд. Если он установлен меньше или равен 0, мы вообще не запускаем этот поток.
max_num_load_retries
uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5
Максимальное количество повторных попыток загрузки обслуживаемого объекта после первого сбоя, прежде чем мы откажемся от него.
num_load_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0
Число потоков в пуле потоков, используемых для загрузки обслуживаемых объектов.
Если установлено значение 0, мы не используем пул потоков, и обслуживаемые нагрузки выполняются последовательно в основном рабочем цикле менеджера.
num_unload_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0
Число потоков в пуле потоков, используемых для выгрузки обслуживаемых объектов.
Если установлено значение 0, мы не используем пул потоков, и обслуживаемые выгрузки выполняются последовательно в основном рабочем цикле менеджера.
pre_load_hook
PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook
Обратный вызов вызывается непосредственно перед загрузкой обслуживаемого объекта.
Это вызовет тот же поток загрузки менеджера, который запускает загрузку.
resource_tracker
std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker
Счетчик ресурсов для использования при управлении обслуживаемыми ресурсами.
По желанию. Если оставить значение nullptr, мы не проверяем использование обслуживаемых ресурсов.
servable_event_bus
EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr
EventBus для публикации изменений обслуживаемого состояния.
Это необязательно, если не установлено, мы не публикуем.