Ta strona została przetłumaczona przez Cloud Translation API.
Switch to English

tensorflow :: porcja:: AspiredVersionsManager

#include <aspired_versions_manager.h>

Menedżer, który implementuje interfejs API Target < Loader >, który używa wywołań zwrotnych aspired-version w celu określenia, które obsługiwane wersje mają zostać załadowane.

Podsumowanie

Ten menedżer używa również tego interfejsu API, aby wywnioskować, które z nich należy rozładować: Jeśli dana wersja, którą można udostępniać, jest aktualnie załadowana i jest pomijana w wywołaniu wywołania zwrotnego aspired-version odnoszącego się do jej strumienia, który można obsługiwać, ten menedżer interpretuje to pominięcie jako niejawną instrukcję wyładowania wersja. Szczegóły poniżej.

(Semantyka niejawnego wyładowania ułatwia bezstanowe implementacje Źródła , dzięki czemu dana iteracja logiki Źródła po prostu decyduje, które wersje obsługiwanego elementu powinny zostać załadowane, bez konieczności wiedzieć, co zdecydowało w przeszłości).

Ten menedżer dokonuje przejść między wersjami obsługiwanego strumienia przy użyciu skonfigurowanego AspiredVersionPolicy . Menedżer preferuje wyładowanie przed załadowaniem, aby zwolnić zasoby na serwerze podczas podejmowania decyzji między przejściami sugerowanymi przez politykę.

Dziedzictwo

Dziedziczy z: tensorflow :: Serving :: Manager , Target <std :: unique_ptr <Loader>>

Konstruktorzy i niszczyciele

~AspiredVersionsManager ()

Typy publiczne

PreLoadHook za pomocą
BasicManager::PreLoadHook

Klasy przyjaciół

internal::AspiredVersionsManagerTargetImpl
friend class
test_util::AspiredVersionsManagerTestAccess
friend class

Publiczne funkcje statyczne

Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager)
Status

Funkcje publiczne

GetAspiredVersionsCallback () override
Source < std::unique_ptr< Loader > >::AspiredVersionsCallback
Zwraca wywołanie zwrotne w celu ustawienia listy wersji aspirowanych dla określonego strumienia, który można udostępniać, przy użyciu modułów ładujących.
ListAvailableServableIds () const override
virtual std::vector< ServableId >
Pobiera listę wszystkich dostępnych identyfikatorów obsługiwanych, tj

Struktury

tensorflow :: Serving :: AspiredVersionsManager :: Options

Opcje konfiguracyjne i podłączane obiekty, które będą używane przez AspiredVersionsManager .

Typy publiczne

PreLoadHook

BasicManager::PreLoadHook PreLoadHook

Klasy przyjaciół

internal :: AspiredVersionsManagerTargetImpl

friend class internal::AspiredVersionsManagerTargetImpl

test_util :: AspiredVersionsManagerTestAccess

friend class test_util::AspiredVersionsManagerTestAccess

Publiczne funkcje statyczne

Stwórz

Status Create(
  Options options,
  std::unique_ptr< AspiredVersionsManager > *manager
)

Funkcje publiczne

GetAspiredVersionsCallback

Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override

Zwraca wywołanie zwrotne w celu ustawienia listy wersji aspirowanych dla określonego strumienia, który można udostępniać, przy użyciu modułów ładujących.

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

Pobiera listę wszystkich dostępnych identyfikatorów obsługiwanych, tj

każdy z nich można pobrać za pomocą GetServableHandle.

~ AspiredVersionsManager

 ~AspiredVersionsManager() override