tensorflow ::サービング:: AspiredVersionsManager

#include <aspired_versions_manager.h>

マネージャー実装ターゲット<そのローダーの使用がサービス提供可能なバージョンがロードする指示するコールバック・バージョンを熱望> API。

概要

このマネージャーは、そのAPIを使用して、アンロードするAPIを推測します。特定のサービス可能なバージョンが現在ロードされており、そのサービス可能なストリームに関連するaspired-versionsコールバック呼び出しから省略されている場合、このマネージャーは、その省略を、アンロードする暗黙の命令として解釈します。バージョン。詳細については、以下を参照してください。

(暗黙のアンロードセマンティクスを容易にステートレスソース実装では、与えられた反復することによりソースの論理は単純に決定したサービス提供可能なバージョンは、それが過去に決定したものを知らなくても、ロードされるべきでいます。)

このマネージャは、設定用いサービス提供可能なストリームのバージョン間で遷移するAspiredVersionPolicyします。マネージャーは、ポリシーによって提案された遷移を決定するときに、サーバー内のリソースを解放するために、ロードする前にアンロードすることを好みます。

継承

継承: tensorflow ::提供::マネージャー、ターゲット<はstd :: unique_ptrを<ローダー>>

コンストラクタとデストラクタ

~AspiredVersionsManager ()

パブリックタイプ

PreLoadHookを使用して
BasicManager::PreLoadHook

友達クラス

internal::AspiredVersionsManagerTargetImpl
friend class
test_util::AspiredVersionsManagerTestAccess
friend class

パブリック静的関数

Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager)
Status

公の行事

GetAspiredVersionsCallback () override
Source < std::unique_ptr< Loader > >::AspiredVersionsCallback
ローダーを使用して、特定のサービス可能なストリームの目的のバージョンのリストを設定するためのコールバックを返します。
ListAvailableServableIds () const override
virtual std::vector< ServableId >
利用可能なすべてのサービス可能なIDのリストを取得します。

構造体

tensorflow ::サービス提供:: AspiredVersionsManager ::オプション

コンフィグオプションとで使用されるプラガブルオブジェクトAspiredVersionsManager

パブリックタイプ

PreLoadHook

BasicManager::PreLoadHook PreLoadHook

友達クラス

internal :: AspiredVersionsManagerTargetImpl

friend class internal::AspiredVersionsManagerTargetImpl

test_util :: AspiredVersionsManagerTestAccess

friend class test_util::AspiredVersionsManagerTestAccess

パブリック静的関数

作成

Status Create(
  Options options,
  std::unique_ptr< AspiredVersionsManager > *manager
)

公の行事

GetAspiredVersionsCallback

Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override

ローダーを使用して、特定のサービス可能なストリームの目的のバージョンのリストを設定するためのコールバックを返します。

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

利用可能なすべてのサービス可能なIDのリストを取得します。

これらはそれぞれ、GetServableHandleを使用して取得できます。

〜AspiredVersionsManager

 ~AspiredVersionsManager() override