tensorflow ::サービング::マネジャー
これは抽象クラスです。#include <manager.h>
マネージャは、自分のローダーを経由して、すべてのサービス提供可能なオブジェクトのロード、アンロード、検索と寿命の管理を担当しています。
概要
継承
既知のサブクラスを指示: tensorflow ::提供:: AspiredVersionsManager 、 tensorflow ::サービス提供:: BasicManager 、 tensorflow ::サービス提供:: CachingManager 、 tensorflow ::サービス提供:: ServerCoreコンストラクタとデストラクタ | |
---|---|
~Manager () |
公の行事 | |
---|---|
GetAvailableServableHandles () const | std::map< ServableId, ServableHandle < T > > 特定のタイプTの現在利用可能なすべてのservablesのマップを返します。 |
GetServableHandle (const ServableRequest & request, ServableHandle < T > *const handle) | Status |
ListAvailableServableIds () const =0 | virtual std::vector< ServableId > 利用可能なすべてのサービス可能なIDのリストを取得します。 |
公の行事
GetAvailableServableHandles
std::map< ServableId, ServableHandle< T > > GetAvailableServableHandles() const
特定のタイプTの現在利用可能なすべてのservablesのマップを返します。
マップは、servableのIDから対応するハンドルまでです。
重要:ハンドルを保持すると、サービス可能なロードとアンロードが遅れるため、呼び出し元はハンドルを長時間保持しないでください。
GetServableHandle
Status GetServableHandle( const ServableRequest & request, ServableHandle< T > *const handle )
返しServableHandle与えServableRequestを。
そのようなServableが利用できない場合、たとえばまだロードされていない、静止/アンロードされているなどの場合、エラーを返します。呼び出し元は、OKステータスがnull以外のハンドルを示していると見なす場合があります。
重要:ハンドルを保持すると、サービス可能なロードとアンロードが遅れるため、呼び出し元はハンドルを長時間保持しないでください。
ListAvailableServableIds
virtual std::vector< ServableId > ListAvailableServableIds() const =0
利用可能なすべてのサービス可能なIDのリストを取得します。
これらはそれぞれ、GetServableHandleを使用して取得できます。
〜マネージャー
virtual ~Manager()=default