dòng chảy :: phục vụ

Tóm lược

Typedefs

LoaderSource sử dụng
Source < std::unique_ptr< Loader >>
StoragePathSourceAdapter sử dụng
SourceAdapter < StoragePath, std::unique_ptr< Loader >>

Chức năng

DEFINE_CLASS_REGISTRY (StoragePathSourceAdapterRegistry, StoragePathSourceAdapter )
operator!= (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator!= (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator!= (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator!= (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool
operator<< (std::ostream & os, LoaderHarness::State state)
std::ostream &
operator<< (std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time)
std::ostream &
operator== (const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs)
bool
operator== (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator== (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator== (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator== (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool

Các lớp học

tensorflow :: serve :: AspedlyVersionPolicy

Một giao diện cho chính sách được áp dụng cho việc chuyển đổi các phiên bản dịch vụ trong một dòng dịch vụ.

tensorflow :: serve :: AspedlyVersionsManager

Người quản lý triển khai API Target < Loader > sử dụng lệnh gọi lại phiên bản mong muốn để ra lệnh tải phiên bản dịch vụ nào.

tensorflow :: serve :: AspedlyVersionsManagerBuilder

Tạo một AspedlyVersionsManager với các tùy chọn và nguồn được kết nối với nó.

tensorflow :: serve :: BasicManager

Giúp quản lý vòng đời của các dịch vụ bao gồm tải, phục vụ và dỡ chúng ra.

tensorflow :: serve :: CachingManager

Người quản lý quản lý và tải các dịch vụ theo yêu cầu.

tensorflow :: serve :: ClassifierInterface

Giao diện bất khả tri kiểu mô hình để thực hiện phân loại.

tensorflow :: serve :: ErrorInjectingSourceAdapter
tensorflow :: serve :: FileSystemStoragePathSource

Nguồn đường dẫn lưu trữ yêu cầu các phiên bản cho một tập hợp các dịch vụ nhất định.

tensorflow :: serve :: Loader

Một bản tóm tắt được chuẩn hóa cho một đối tượng quản lý vòng đời của một dịch vụ, bao gồm cả việc tải và dỡ nó.

tensorflow :: serve :: LoaderHarness

LoaderHarness là một tiện ích mà Người quản lý sử dụng để giữ và nói chuyện với Người tải khi người đó sở hữu nó.

tensorflow :: phục vụ :: Người quản lý

Người quản lý chịu trách nhiệm tải, dỡ hàng, tra cứu và quản lý trọn đời tất cả các đối tượng Có thể phục vụ thông qua Bộ tải của họ.

tensorflow :: serve :: PathPrefixLoaderFactory

Một LoaderFactory đơn giản tìm kiếm một dịch vụ tại một đường dẫn được hình thành bằng cách nối tiền tố đường dẫn cố định với tên của dịch vụ.

tensorflow :: serve :: RegressorInterface

Giao diện bất khả tri mô hình để thực hiện hồi quy.

tensorflow :: serve :: ResourceUnsafeLoader

Một người tải không biết gì về tài nguyên.

tensorflow :: serve :: SavedModelBundleFactory

Nhà máy tạo SavedModelBundles từ các đường dẫn xuất SavedModel hoặc SessionBundle.

tensorflow :: serve :: ServableHandle

Một con trỏ thông minh đến đối tượng có thể phục vụ bên dưới T được truy xuất từ ​​Trình tải .

tensorflow :: serve :: ServableStateMonitor

Một tiện ích lắng nghe EventBus <ServableState> và theo dõi trạng thái của từng dịch vụ được đề cập trên bus.

tensorflow :: serve :: ServerCore

ServerCore chứa trạng thái và các phương thức trợ giúp cho phép xây dựng các ModelServer hỗ trợ nhiều giao diện.

tensorflow :: serve :: ServingSession

Một Session chặn các phương thức thay đổi trạng thái như Close (), đồng thời cho phép Run () truy cập chỉ đọc (không được thực thi).

tensorflow :: serve :: ServingSessionWrapper

ServingSession bao bọc một Session nhất định và chặn tất cả các lệnh gọi không phải Run ().

tensorflow :: serve :: SharedPtrHandle

Việc triển khai UntypedServableHandle sử dụng shared_ptr để thực hiện đếm lại trên Trình tải sở hữu Có thể phục vụ.

tensorflow :: phục vụ :: Nguồn

Một phần trừu tượng cho một mô-đun lấy nguồn các dịch vụ để tải hoặc chính xác hơn là xử lý dữ liệu có thể được sử dụng để tải các dịch vụ đó.

tensorflow :: serve :: SourceAdapter

Một phần trừu tượng cho một mô-đun nhận các lệnh gọi lại phiên bản mong muốn với dữ liệu kiểu InputType và chuyển đổi chúng thành các cuộc gọi với dữ liệu kiểu OutputType.

tensorflow :: serve :: UnarySourceAdapter
tensorflow :: serve :: UntypedServableHandle

Một xử lý không được tạo khuôn mẫu đối với một đối tượng có thể phục vụ được, được sử dụng nội bộ trong Trình quản lý để truy xuất đối tượng dịch vụ bị xóa loại khỏi Trình tải .

Cấu trúc

tensorflow :: serve :: AspedlyServableStateSnapshot

Ảnh chụp nhanh trạng thái và nguyện vọng của người phục vụ.

tensorflow :: serve :: ServableRequest

Một truy vấn cho một đối tượng dịch vụ được tải cụ thể.

tensorflow :: serve :: ServableStateSnapshot

Không gian tên

tensorflow :: phục vụ :: nội bộ
tensorflow :: serve :: test_util

Typedefs

LoaderSource

Source< std::unique_ptr< Loader >> LoaderSource

StoragePathSourceAdapter

SourceAdapter< StoragePath, std::unique_ptr< Loader >> StoragePathSourceAdapter

Chức năng

DEFINE_CLASS_REGISTRY

 DEFINE_CLASS_REGISTRY(
  StoragePathSourceAdapterRegistry,
  StoragePathSourceAdapter
)

toán tử! =

bool operator!=(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

toán tử! =

bool operator!=(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

toán tử! =

constexpr bool operator!=(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

toán tử! =

bool operator!=(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)

nhà điều hành

std::ostream & operator<<(
  std::ostream & os,
  LoaderHarness::State state
)

nhà điều hành

std::ostream & operator<<(
  std::ostream & os,
  const ServableStateMonitor::ServableStateAndTime & state_and_time
)

toán tử ==

bool operator==(
  const AspiredVersionPolicy::ServableAction & lhs,
  const AspiredVersionPolicy::ServableAction & rhs
)

toán tử ==

bool operator==(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

toán tử ==

bool operator==(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

toán tử ==

constexpr bool operator==(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

toán tử ==

bool operator==(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)