tensorflow ::サービング:: AspiredVersionsManager
#include <aspired_versions_manager.h>
マネージャー実装ターゲット<そのローダーの使用がサービス提供可能なバージョンがロードする指示するコールバック・バージョンを熱望> API。
概要
このマネージャーは、そのAPIを使用して、アンロードするAPIを推測します。特定のサービス可能なバージョンが現在ロードされており、そのサービス可能なストリームに関連するaspired-versionsコールバック呼び出しから省略されている場合、このマネージャーは、その省略を、アンロードする暗黙の命令として解釈します。バージョン。詳細については、以下を参照してください。
(暗黙のアンロードセマンティクスを容易にステートレスソース実装では、与えられた反復することによりソースの論理は単純に決定したサービス提供可能なバージョンは、それが過去に決定したものを知らなくても、ロードされるべきでいます。)
このマネージャは、設定用いサービス提供可能なストリームのバージョン間で遷移するAspiredVersionPolicyします。マネージャーは、ポリシーによって提案された遷移を決定するときに、サーバー内のリソースを解放するために、ロードする前にアンロードすることを好みます。
継承
継承: tensorflow ::提供::マネージャー、ターゲット<はstd :: unique_ptrを<ローダー>>コンストラクタとデストラクタ | |
---|---|
~AspiredVersionsManager () |
パブリックタイプ | |
---|---|
PreLoadHook | を使用してBasicManager::PreLoadHook |
友達クラス | |
---|---|
internal::AspiredVersionsManagerTargetImpl | friend class |
test_util::AspiredVersionsManagerTestAccess | friend class |
パブリック静的関数 | |
---|---|
Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager) | Status |
公の行事 | |
---|---|
GetAspiredVersionsCallback () override | ローダーを使用して、特定のサービス可能なストリームの目的のバージョンのリストを設定するためのコールバックを返します。 |
ListAvailableServableIds () const override | virtual std::vector< ServableId > 利用可能なすべてのサービス可能なIDのリストを取得します。 |
構造体 | |
---|---|
tensorflow ::サービス提供:: AspiredVersionsManager ::オプション | コンフィグオプションとで使用されるプラガブルオブジェクトAspiredVersionsManager 。 |
パブリックタイプ
PreLoadHook
BasicManager::PreLoadHook PreLoadHook
友達クラス
internal :: AspiredVersionsManagerTargetImpl
friend class internal::AspiredVersionsManagerTargetImpl
test_util :: AspiredVersionsManagerTestAccess
friend class test_util::AspiredVersionsManagerTestAccess
パブリック静的関数
作成
Status Create( Options options, std::unique_ptr< AspiredVersionsManager > *manager )
公の行事
GetAspiredVersionsCallback
Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override
ローダーを使用して、特定のサービス可能なストリームの目的のバージョンのリストを設定するためのコールバックを返します。
ListAvailableServableIds
virtual std::vector< ServableId > ListAvailableServableIds() const override
利用可能なすべてのサービス可能なIDのリストを取得します。
これらはそれぞれ、GetServableHandleを使用して取得できます。
〜AspiredVersionsManager
~AspiredVersionsManager() override