aliran tensor:: porsi

Ringkasan

Typedef

LoaderSource menggunakan
Source < std::unique_ptr< Loader >>
StoragePathSourceAdapter menggunakan
SourceAdapter < StoragePath, std::unique_ptr< Loader >>

Fungsi

DEFINE_CLASS_REGISTRY (StoragePathSourceAdapterRegistry, StoragePathSourceAdapter )
operator!= (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator!= (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator!= (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator!= (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool
operator<< (std::ostream & os, LoaderHarness::State state)
std::ostream &
operator<< (std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time)
std::ostream &
operator== (const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs)
bool
operator== (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator== (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator== (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator== (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool

Kelas

tensorflow:: melayani:: AspiredVersionPolicy

Antarmuka untuk kebijakan yang akan diterapkan untuk mentransisikan versi yang dapat ditayangkan dalam aliran yang dapat ditayangkan.

tensorflow:: melayani:: AspiredVersionsManager

Manajer yang mengimplementasikan Target< Loader > API yang menggunakan panggilan balik versi yang diinginkan untuk menentukan versi mana yang dapat ditayangkan untuk dimuat.

tensorflow:: melayani:: AspiredVersionsManagerBuilder

Membangun AspiredVersionsManager dengan opsi dan sumber yang terhubung dengannya.

tensorflow:: melayani:: BasicManager

Membantu mengelola siklus hidup servable termasuk memuat, menyajikan, dan membongkarnya.

tensorflow:: melayani:: CachingManager

Manajer yang mengelola dan memuat servable sesuai permintaan.

tensorflow:: melayani:: ClassifierInterface

Antarmuka agnostik tipe model untuk melakukan klasifikasi.

tensorflow:: serve:: ErrorInjectingSourceAdapter
tensorflow:: melayani:: FileSystemStoragePathSource

Sumber jalur penyimpanan yang menginginkan versi untuk kumpulan servable tertentu.

tensorflow:: melayani:: Loader

Abstraksi standar untuk objek yang mengelola siklus hidup servable, termasuk memuat dan membongkarnya.

tensorflow:: melayani:: LoaderHarness

LoaderHarness adalah widget yang digunakan Manajer untuk berpegangan dan berbicara dengan Loader saat ia memilikinya.

tensorflow:: melayani:: Manajer

Manajer bertanggung jawab untuk memuat, membongkar, mencari, dan mengelola semua objek Servable melalui Loader mereka.

tensorflow:: melayani:: PathPrefixLoaderFactory

LoaderFactory sederhana yang mencari servable di jalur yang dibentuk dengan menggabungkan awalan jalur tetap dengan nama servable.

tensorflow:: melayani:: RegressorInterface

Model antarmuka agnostik untuk melakukan regresi.

tensorflow:: melayani:: ResourceUnsafeLoader

Sebuah Loader yang tidak menyadari sumber daya.

tensorflow:: melayani:: SavedModelBundleFactory

Pabrik yang membuat SavedModelBundles dari jalur ekspor SavedModel atau SessionBundle.

tensorflow:: melayani:: ServableHandle

Sebuah pointer cerdas ke objek servable yang mendasari T diambil dari Loader .

tensorflow:: melayani:: ServableStateMonitor

Utilitas yang mendengarkan EventBus<ServableState>, dan melacak status setiap servable yang disebutkan di bus.

tensorflow:: melayani:: ServerCore

ServerCore berisi metode status dan pembantu yang memungkinkan pembangunan ModelServers yang mendukung banyak antarmuka.

tensorflow:: serve:: ServingSession

Sesi yang memblokir metode yang mengubah status seperti Close(), sementara mengizinkan Run() untuk akses hanya baca (tidak diberlakukan).

tensorflow:: serve:: ServingSessionWrapper

ServingSession yang membungkus Sesi tertentu, dan memblokir semua panggilan selain Run().

tensorflow:: melayani:: SharedPtrHandle

Implementasi UntypedServableHandle menggunakan shared_ptr untuk melakukan penghitungan ulang pada Loader yang memiliki Servable.

tensorflow:: melayani:: Sumber

Sebuah abstraksi untuk modul yang sumber servable untuk memuat, atau, lebih tepatnya, menangani data yang dapat digunakan untuk memuat servable tersebut.

tensorflow:: melayani:: SourceAdapter

Abstraksi untuk modul yang menerima panggilan balik versi yang diinginkan dengan data tipe InputType dan mengubahnya menjadi panggilan dengan data tipe OutputType.

tensorflow:: melayani:: UnarySourceAdapter
tensorflow:: serve:: UntypedServableHandle

Pegangan non-templat untuk servable, digunakan secara internal di Manager untuk mengambil objek servable yang terhapus tipe dari Loader .

Struktur

tensorflow:: melayani:: AspiredServableStateSnapshot

Cuplikan keadaan dan aspirasi yang dapat dilayani.

tensorflow:: melayani:: ServableRequest

Kueri untuk objek servable yang dimuat secara spesifik.

tensorflow:: melayani:: ServableStateSnapshot

Ruang nama

tensorflow:: melayani:: internal
tensorflow:: melayani:: test_util

Typedef

LoaderSumber

Source< std::unique_ptr< Loader >> LoaderSource

StoragePathSourceAdapter

SourceAdapter< StoragePath, std::unique_ptr< Loader >> StoragePathSourceAdapter

Fungsi

DEFINE_CLASS_REGISTRY

 DEFINE_CLASS_REGISTRY(
  StoragePathSourceAdapterRegistry,
  StoragePathSourceAdapter
)

operator!=

bool operator!=(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

operator!=

bool operator!=(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

operator!=

constexpr bool operator!=(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

operator!=

bool operator!=(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)

operator

std::ostream & operator<<(
  std::ostream & os,
  LoaderHarness::State state
)

operator

std::ostream & operator<<(
  std::ostream & os,
  const ServableStateMonitor::ServableStateAndTime & state_and_time
)

operator==

bool operator==(
  const AspiredVersionPolicy::ServableAction & lhs,
  const AspiredVersionPolicy::ServableAction & rhs
)

operator==

bool operator==(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

operator==

bool operator==(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

operator==

constexpr bool operator==(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

operator==

bool operator==(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)