тензорный поток :: сервировка :: Аспиредверсионсменеджер

#include <aspired_versions_manager.h>

Менеджер , который реализует Target < Loader > API , который использует стремился-версия обратных вызовов диктуют какие servable версии для загрузки.

Резюме

Этот менеджер также использует этот API, чтобы сделать вывод, какие из них следует выгрузить: если данная обслуживаемая версия загружена в данный момент и отсутствует в вызове обратного вызова предполагаемых версий, относящемся к ее обслуживаемому потоку, этот менеджер интерпретирует это упущение как неявную инструкцию выгрузить версия. Подробнее см. ниже.

(Неявной-выгрузка семантики Облегчает без гражданства Источник реализации, в результате чего данная итерация источника логики «s просто решает , какие версии servable должны быть загружены, не нужно знать , что он решил в прошлом.)

Этот менеджер делает переходы между версиями servable потока с использованием настроенного AspiredVersionPolicy . Менеджер предпочитает выгрузку перед загрузкой, чтобы освободить ресурсы сервера при выборе переходов, предложенных политикой.

Наследование

Наследуется от: tensorflow :: служащей :: менеджера , Target <станд :: unique_ptr <Погрузчик>>

Конструкторы и деструкторы
~AspiredVersionsManager ()

Публичные типы
PreLoadHook	с использованием BasicManager::PreLoadHook

Классы друзей
internal::AspiredVersionsManagerTargetImpl	friend class
test_util::AspiredVersionsManagerTestAccess	friend class

Публичные статические функции
Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager)	Status

Публичные функции
GetAspiredVersionsCallback () override	Source < std::unique_ptr< Loader > >::AspiredVersionsCallback Возвращает обратный вызов для установки списка требуемых версий для определенного обслуживаемого потока с помощью загрузчиков.
ListAvailableServableIds () const override	virtual std::vector< ServableId > Получает список всех доступных обслуживаемых идентификаторов, т.е.

Структуры
tensorflow :: служит :: AspiredVersionsManager :: Функции	Параметры конфигурации и вставные объекты , которые будут использоваться в AspiredVersionsManager .

Публичные типы

PreLoadHook

BasicManager::PreLoadHook PreLoadHook

Классы друзей

внутренний:: АспиредВерсионсманажертаржетимпл

friend class internal::AspiredVersionsManagerTargetImpl

test_util::AspiredVersionsManagerTestAccess

friend class test_util::AspiredVersionsManagerTestAccess

Публичные статические функции

Создавать

Status Create(
  Options options,
  std::unique_ptr< AspiredVersionsManager > *manager
)

Публичные функции

Обратный вызов GetAspiredVersions

Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override

Возвращает обратный вызов для установки списка требуемых версий для определенного обслуживаемого потока с помощью загрузчиков.

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

Получает список всех доступных обслуживаемых идентификаторов, т.е.

каждый из них можно получить с помощью GetServableHandle.

~AspiredVersionsManager

 ~AspiredVersionsManager() override