flusso tensoriale:: servendo:: Aspired VersionsManager:: Opzioni
#include <aspired_versions_manager.h>Opzioni di configurazione e gli oggetti inseribili che verranno utilizzati dal AspiredVersionsManager .
Riepilogo
Attributi pubblici | |
|---|---|
aspired_version_policy | std::unique_ptr< AspiredVersionPolicy > L'AspiredVersionPolicy da utilizzare per il manager. Deve essere non nullo. |
env = Env::Default() | Env * L'ambiente da usare per avviare i thread nel pool di thread o per dormire. |
flush_filesystem_caches = false | bool |
load_retry_interval_micros = 1LL * 60 * 1000 * 1000 | int64 L'intervallo, in microsecondi, tra ogni tentativo di caricamento utilizzabile. |
manage_state_interval_micros = 100 * 1000 | int64 La periodicità, in microsecondi, del thread che gestisce lo stato dei servibili. |
max_num_load_retries = 5 | uint32 Numero massimo di volte che riproviamo a caricare un servibile, dopo il primo errore, prima di arrenderci. |
num_load_threads = 0 | uint32 Il numero di thread nel pool di thread utilizzato per caricare i file servable. |
num_unload_threads = 0 | uint32 Il numero di thread nel pool di thread utilizzato per scaricare i file servable. |
pre_load_hook | PreLoadHook Richiamata da chiamare appena prima del caricamento di un servibile. |
resource_tracker | std::unique_ptr< ResourceTracker > Il tracker delle risorse da utilizzare durante la gestione delle risorse utilizzabili. |
servable_event_bus = nullptr | EventBus< ServableState > * EventBus per pubblicare modifiche di stato utilizzabili. |
Attributi pubblici
aspired_version_policy
std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy
L'AspiredVersionPolicy da utilizzare per il manager. Deve essere non nullo.
env
Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()
L'ambiente da usare per avviare i thread nel pool di thread o per dormire.
flush_filesystem_caches
bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false
load_retry_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000
L'intervallo, in microsecondi, tra ogni tentativo di caricamento utilizzabile.
Se impostato negativo, non aspettiamo. Valore predefinito: 1 minuto.
manage_state_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000
La periodicità, in microsecondi, del thread che gestisce lo stato dei servibili.
Predefinito: 100 millisecondi. Se questo è impostato su un valore minore o uguale a 0, non eseguiamo affatto questo thread.
max_num_load_retries
uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5
Numero massimo di volte che riproviamo a caricare un servibile, dopo il primo errore, prima di arrenderci.
num_load_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0
Il numero di thread nel pool di thread utilizzato per caricare i file servable.
Se impostato su 0, non utilizziamo un pool di thread e i carichi utilizzabili vengono eseguiti in serie nel ciclo di lavoro principale del gestore.
num_unload_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0
Il numero di thread nel pool di thread utilizzato per scaricare i file servable.
Se impostato a 0, non utilizziamo un pool di thread e gli scaricamenti utilizzabili vengono eseguiti in serie nel ciclo di lavoro principale del gestore.
pre_load_hook
PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook
Richiamata da chiamare appena prima del caricamento di un servibile.
Questo chiamerà lo stesso thread di caricamento del gestore che avvia il caricamento.
resource_tracker
std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker
Il tracker delle risorse da utilizzare durante la gestione delle risorse utilizzabili.
Opzionale. Se lasciato come nullptr, non convalidiamo l'utilizzo delle risorse utilizzabili.
servable_event_bus
EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr
EventBus per pubblicare modifiche di stato utilizzabili.
Questo è facoltativo, se non impostato, non pubblichiamo.