tensorflow ::サービング:: AspiredVersionsManager ::オプション
#include <aspired_versions_manager.h>
コンフィグオプションとで使用されるプラガブルオブジェクトAspiredVersionsManager 。
概要
パブリック属性 | |
---|---|
aspired_version_policy | std::unique_ptr< AspiredVersionPolicy > AspiredVersionPolicyはマネージャーに使用します。 null以外である必要があります。 |
env = Env::Default() | Env * スレッドプールでスレッドを開始するため、またはスリープするために使用する環境。 |
flush_filesystem_caches = false | bool |
load_retry_interval_micros = 1LL * 60 * 1000 * 1000 | int64 サーブ可能な各ロードの再試行間の間隔(マイクロ秒単位)。 |
manage_state_interval_micros = 100 * 1000 | int64 サーバブルの状態を管理するスレッドの周期性(マイクロ秒単位)。 |
max_num_load_retries = 5 | uint32 最初の失敗後、あきらめる前に、servableのロードを再試行する最大回数。 |
num_load_threads = 0 | uint32 サーバブルのロードに使用されるスレッドプール内のスレッドの数。 |
num_unload_threads = 0 | uint32 サーバブルのアンロードに使用されるスレッドプール内のスレッドの数。 |
pre_load_hook | PreLoadHook servableがロードされる直前に呼び出されるコールバック。 |
resource_tracker | std::unique_ptr< ResourceTracker > 提供可能なリソースの管理中に使用するリソーストラッカー。 |
servable_event_bus = nullptr | EventBus< ServableState > * サーブ可能な状態の変更を公開するEventBus。 |
パブリック属性
aspired_version_policy
std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy
AspiredVersionPolicyはマネージャーに使用します。 null以外である必要があります。
環境
Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()
スレッドプールでスレッドを開始するため、またはスリープするために使用する環境。
flush_filesystem_caches
bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false
load_retry_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000
サーブ可能な各ロードの再試行間の間隔(マイクロ秒単位)。
負に設定すると、待機しません。デフォルト:1分。
manage_state_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000
サーバブルの状態を管理するスレッドの周期性(マイクロ秒単位)。
デフォルト:100ミリ秒。これが0以下に設定されている場合、このスレッドはまったく実行されません。
max_num_load_retries
uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5
最初の失敗後、あきらめる前に、servableのロードを再試行する最大回数。
num_load_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0
サーバブルのロードに使用されるスレッドプール内のスレッドの数。
0に設定すると、スレッドプールは使用されず、サービス可能なロードはマネージャーのメインワークループでシリアルに実行されます。
num_unload_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0
サーバブルのアンロードに使用されるスレッドプール内のスレッドの数。
0に設定すると、スレッドプールは使用されず、サービス可能なアンロードはマネージャーのメインワークループでシリアルに実行されます。
pre_load_hook
PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook
servableがロードされる直前に呼び出されるコールバック。
これは、ロードを開始するのと同じマネージャーロードスレッドで呼び出されます。
resource_tracker
std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker
提供可能なリソースの管理中に使用するリソーストラッカー。
オプション。 nullptrのままにしておくと、サービス可能なリソースの使用状況は検証されません。
servable_event_bus
EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr
サーブ可能な状態の変更を公開するEventBus。
これはオプションです。設定されていない場合、公開されません。