tensorflow ::サービング:: AspiredVersionsManager ::オプション

#include <aspired_versions_manager.h>

コンフィグオプションとで使用されるプラガブルオブジェクトAspiredVersionsManager

概要

パブリック属性

aspired_version_policy
std::unique_ptr< AspiredVersionPolicy >
AspiredVersionPolicyはマネージャーに使用します。 null以外である必要があります。
env = Env::Default()
Env *
スレッドプールでスレッドを開始するため、またはスリープするために使用する環境。
flush_filesystem_caches = false
bool
load_retry_interval_micros = 1LL * 60 * 1000 * 1000
int64
サーブ可能な各ロードの再試行間の間隔(マイクロ秒単位)。
manage_state_interval_micros = 100 * 1000
int64
サーバブルの状態を管理するスレッドの周期性(マイクロ秒単位)。
max_num_load_retries = 5
uint32
最初の失敗後、あきらめる前に、servableのロードを再試行する最大回数。
num_load_threads = 0
uint32
サーバブルのロードに使用されるスレッドプール内のスレッドの数。
num_unload_threads = 0
uint32
サーバブルのアンロードに使用されるスレッドプール内のスレッドの数。
pre_load_hook
PreLoadHook
servableがロードされる直前に呼び出されるコールバック。
resource_tracker
std::unique_ptr< ResourceTracker >
提供可能なリソースの管理中に使用するリソーストラッカー。
servable_event_bus = nullptr
EventBus< ServableState > *
サーブ可能な状態の変更を公開するEventBus。

パブリック属性

aspired_version_policy

std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy

AspiredVersionPolicyはマネージャーに使用します。 null以外である必要があります。

環境

Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()

スレッドプールでスレッドを開始するため、またはスリープするために使用する環境。

flush_filesystem_caches

bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false

load_retry_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000

サーブ可能な各ロードの再試行間の間隔(マイクロ秒単位)。

負に設定すると、待機しません。デフォルト:1分。

manage_state_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000

サーバブルの状態を管理するスレッドの周期性(マイクロ秒単位)。

デフォルト:100ミリ秒。これが0以下に設定されている場合、このスレッドはまったく実行されません。

max_num_load_retries

uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5

最初の失敗後、あきらめる前に、servableのロードを再試行する最大回数。

num_load_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0

サーバブルのロードに使用されるスレッドプール内のスレッドの数。

0に設定すると、スレッドプールは使用されず、サービス可能なロードはマネージャーのメインワークループでシリアルに実行されます。

num_unload_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0

サーバブルのアンロードに使用されるスレッドプール内のスレッドの数。

0に設定すると、スレッドプールは使用されず、サービス可能なアンロードはマネージャーのメインワークループでシリアルに実行されます。

pre_load_hook

PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook

servableがロードされる直前に呼び出されるコールバック。

これは、ロードを開始するのと同じマネージャーロードスレッドで呼び出されます。

resource_tracker

std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker

提供可能なリソースの管理中に使用するリソーストラッカー。

オプション。 nullptrのままにしておくと、サービス可能なリソースの使用状況は検証されません。

servable_event_bus

EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr

サーブ可能な状態の変更を公開するEventBus。

これはオプションです。設定されていない場合、公開されません。