flusso tensoriale:: servendo:: Aspired VersionsManager

#include <aspired_versions_manager.h>

Un manager che implementa il Target < Loader > API che usi che le versioni pubblicabili per caricare aspiravano-versioni callback per dettare.

Riepilogo

Questo gestore usa anche quell'API per dedurre quali scaricare: se una data versione pubblicabile è attualmente caricata e viene omessa da un'invocazione di callback delle versioni aspirate relativa al suo flusso pubblicabile, questo gestore interpreta quell'omissione come un'istruzione implicita per scaricare il versione. Vedi sotto per i dettagli.

(La semantica implicita-scarico facilita apolidi Fonte implementazioni, per cui una data iterazione del Fonte logica s' decide semplicemente che le versioni di un servibile dovrebbe essere caricato, senza bisogno di sapere che cosa ha deciso in passato.)

Questo direttore rende le transizioni tra le versioni di un flusso servibile utilizzando una configurazione AspiredVersionPolicy . Il manager preferisce scaricare prima di caricare per liberare risorse nel server quando decide tra le transizioni suggerite dalla politica.

Eredità

Eredita da: tensorflow :: :: servire manager , Target <std :: unique_ptr <Loader>>

Costruttori e Distruttori

~AspiredVersionsManager ()

tipi pubblici

PreLoadHook usando
BasicManager::PreLoadHook

Classi di amici

internal::AspiredVersionsManagerTargetImpl
friend class
test_util::AspiredVersionsManagerTestAccess
friend class

Funzioni statiche pubbliche

Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager)
Status

Funzioni pubbliche

GetAspiredVersionsCallback () override
Source < std::unique_ptr< Loader > >::AspiredVersionsCallback
Restituisce un callback per impostare l'elenco delle versioni aspirate per un particolare flusso pubblicabile, utilizzando i caricatori.
ListAvailableServableIds () const override
virtual std::vector< ServableId >
Ottiene un elenco di tutti gli ID utilizzabili disponibili, ad es

Strutture

tensorflow :: :: servire AspiredVersionsManager :: Opzioni

Opzioni di configurazione e gli oggetti inseribili che verranno utilizzati dal AspiredVersionsManager .

tipi pubblici

PreLoadHook

BasicManager::PreLoadHook PreLoadHook

Classi di amici

internal::AspiredVersionsManagerTargetImpl

friend class internal::AspiredVersionsManagerTargetImpl

test_util::AspiredVersionsManagerTestAccess

friend class test_util::AspiredVersionsManagerTestAccess

Funzioni statiche pubbliche

Creare

Status Create(
  Options options,
  std::unique_ptr< AspiredVersionsManager > *manager
)

Funzioni pubbliche

OttieniVersioniAspirateCallback

Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override

Restituisce un callback per impostare l'elenco delle versioni aspirate per un particolare flusso pubblicabile, utilizzando i caricatori.

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

Ottiene un elenco di tutti gli ID utilizzabili disponibili, ad es

ognuno di questi può essere recuperato utilizzando GetServableHandle.

~AspiredVersionsManager

 ~AspiredVersionsManager() override