dòng chảy :: phục vụ :: AspedlyVersionsManager

#include <aspired_versions_manager.h>

Một nhà quản lý mà thực hiện các mục tiêu < Loader > API mà sử dụng khao khát-phiên bản callbacks để dictate mà phiên bản thể phân phát để tải.

Bản tóm tắt

Trình quản lý này cũng sử dụng API đó để suy ra những cái nào sẽ tải xuống: Nếu một phiên bản dịch vụ nhất định hiện đang được tải và bị bỏ qua khỏi lệnh gọi lại phiên bản mong muốn liên quan đến luồng có thể phục vụ của nó, trình quản lý này giải thích việc thiếu sót đó là một hướng dẫn ngầm để dỡ bỏ phiên bản. Xem chi tiết bên dưới.

(Ngữ nghĩa tiềm ẩn-dỡ bỏ tạo điều kiện stateless Nguồn triển khai, theo đó một lần lặp nhất định của các nguồn Logic 's chỉ đơn giản là quyết định những phiên bản của một thể phân phát phải được nạp, mà không cần phải biết những gì nó đã quyết định trong quá khứ.)

Quản lý này làm cho quá trình chuyển đổi giữa các phiên bản của một dòng thể phân phát sử dụng một cấu hình AspiredVersionPolicy . Người quản lý muốn dỡ bỏ trước khi tải để giải phóng tài nguyên trong máy chủ khi quyết định giữa các chuyển đổi do chính sách đề xuất.

Di sản

Inherits từ: tensorflow :: phục vụ :: Quản lý , Target <std :: unique_ptr <Loader>>

Người xây dựng và Người phá hủy

~AspiredVersionsManager ()

Các loại công khai

PreLoadHook sử dụng
BasicManager::PreLoadHook

Lớp học bạn bè

internal::AspiredVersionsManagerTargetImpl
friend class
test_util::AspiredVersionsManagerTestAccess
friend class

Các chức năng tĩnh công khai

Create ( Options options, std::unique_ptr< AspiredVersionsManager > *manager)
Status

Chức năng công cộng

GetAspiredVersionsCallback () override
Source < std::unique_ptr< Loader > >::AspiredVersionsCallback
Trả về một lệnh gọi lại để đặt danh sách các phiên bản mong muốn cho một luồng có thể phục vụ cụ thể, sử dụng Bộ tải.
ListAvailableServableIds () const override
virtual std::vector< ServableId >
Nhận danh sách tất cả các id dịch vụ có sẵn, tức là

Cấu trúc

tensorflow :: phục vụ :: AspiredVersionsManager :: Tùy chọn

Tùy chọn cấu hình và các đối tượng pluggable sẽ được sử dụng bởi các AspiredVersionsManager .

Các loại công khai

PreLoadHook

BasicManager::PreLoadHook PreLoadHook

Lớp học bạn bè

nội bộ :: AspedlyVersionsManagerTargetImpl

friend class internal::AspiredVersionsManagerTargetImpl

test_util :: AspedlyVersionsManagerTestAccess

friend class test_util::AspiredVersionsManagerTestAccess

Các chức năng tĩnh công khai

Tạo ra

Status Create(
  Options options,
  std::unique_ptr< AspiredVersionsManager > *manager
)

Chức năng công cộng

GetAsposystemVersionsCallback

Source< std::unique_ptr< Loader > >::AspiredVersionsCallback GetAspiredVersionsCallback() override

Trả về một lệnh gọi lại để đặt danh sách các phiên bản mong muốn cho một luồng có thể phục vụ cụ thể, sử dụng Bộ tải.

ListAvailableServableIds

virtual std::vector< ServableId > ListAvailableServableIds() const override

Nhận danh sách tất cả các id dịch vụ có sẵn, tức là

mỗi cái trong số này có thể được truy xuất bằng GetServableHandle.

~ AspedlyVersionsManager

 ~AspiredVersionsManager() override