dòng chảy :: phục vụ :: CachingManager

#include <caching_manager.h>

Người quản lý quản lý và tải các dịch vụ theo yêu cầu.

Bản tóm tắt

Khi nhận được yêu cầu về tên dịch vụ và phiên bản tùy chọn, người quản lý sẽ kiểm tra xem nó đã tải sẵn dịch vụ được yêu cầu chưa. Nếu không, nó bắt đầu hoạt động tải và sau đó phục vụ yêu cầu.

Trình quản lý chặn hoạt động tải và trả về xử lý khi có thể dịch vụ đã được tải hoặc khi có lỗi.

Di sản

Inherits từ: tensorflow :: phục vụ :: Quản lý

Người xây dựng và Người phá hủy

~CachingManager ()

Lớp học bạn bè

test_util::CachingManagerTestAccess
friend class

Các chức năng tĩnh công khai

Create ( Options options, std::unique_ptr< LoaderFactory > loader_factory, std::unique_ptr< CachingManager > *caching_manager)
Status

Chức năng công cộng

GetAvailableUntypedServableHandles () const override
virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > >
ListAvailableServableIds () const override
virtual std::vector< ServableId >
Nhận danh sách tất cả các id dịch vụ có sẵn, tức là

Các lớp học

tensorflow :: phục vụ :: CachingManager :: LoaderFactory

Một phần trừu tượng cho một nhà máy sản xuất bộ tải để ánh xạ từ một yêu cầu có thể phục vụ đến bộ tải tương ứng.

Cấu trúc

tensorflow :: phục vụ :: CachingManager :: Tùy chọn

Tùy chọn cấu hình và các đối tượng pluggable sẽ được sử dụng bởi các CachingManager .

Lớp học bạn bè

test_util :: CachingManagerTestAccess

friend class test_util::CachingManagerTestAccess

Các chức năng tĩnh công khai

Tạo ra

Status Create(
  Options options,
  std::unique_ptr< LoaderFactory > loader_factory,
  std::unique_ptr< CachingManager > *caching_manager
)

Chức năng công cộng

GetAvailableUntypedServableHandles

virtual std::map< ServableId, std::unique_ptr< UntypedServableHandle > > GetAvailableUntypedServableHandles() const override

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

Nhận danh sách tất cả các id dịch vụ có sẵn, tức là

mỗi cái trong số này có thể được truy xuất bằng GetServableHandle.

~ CachingManager

 ~CachingManager() override