เทนเซอร์โฟลว์:: เสิร์ฟ

สรุป

Typedefs

LoaderSource โดยใช้
Source < std::unique_ptr< Loader >>
StoragePathSourceAdapter โดยใช้
SourceAdapter < StoragePath, std::unique_ptr< Loader >>

ฟังก์ชั่น

DEFINE_CLASS_REGISTRY (StoragePathSourceAdapterRegistry, StoragePathSourceAdapter )
operator!= (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator!= (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator!= (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator!= (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool
operator<< (std::ostream & os, LoaderHarness::State state)
std::ostream &
operator<< (std::ostream & os, const ServableStateMonitor::ServableStateAndTime & state_and_time)
std::ostream &
operator== (const AspiredVersionPolicy::ServableAction & lhs, const AspiredVersionPolicy::ServableAction & rhs)
bool
operator== (const Loader::Metadata & a, const Loader::Metadata & b)
bool
operator== (const ServableStateSnapshot< T > & a, const ServableStateSnapshot< T > & b)
bool
operator== (const ServableHandle < T > & l, const ServableHandle < U > & r)
constexpr bool
operator== (const ServableStateMonitor::ServableStateAndTime & a, const ServableStateMonitor::ServableStateAndTime & b)
bool

ชั้นเรียน

tensorflow:: การให้บริการ:: AspiredVersionPolicy

อินเทอร์เฟซสำหรับนโยบายที่จะใช้สำหรับการเปลี่ยนเวอร์ชันที่แสดงได้ในสตรีมที่แสดงได้

tensorflow:: การให้บริการ:: AspiredVersionsManager

ผู้จัดการที่ใช้ Target< Loader > API ซึ่งใช้การเรียกกลับเวอร์ชัน aspired เพื่อกำหนดว่าจะโหลดเวอร์ชันใดที่สามารถให้บริการได้

tensorflow:: การให้บริการ:: AspiredVersionsManagerBuilder

สร้าง AspiredVersionsManager พร้อมตัวเลือกและแหล่งที่มาที่เชื่อมต่อ

tensorflow:: การให้บริการ:: BasicManager

ช่วยจัดการวงจรชีวิตของ Servables รวมถึงการโหลด การให้บริการ และการขนถ่าย

tensorflow:: การให้บริการ:: CachingManager

ผู้จัดการที่จัดการและโหลดเซิร์ฟเวอร์ตามความต้องการ

tensorflow:: การให้บริการ:: ตัวแยกประเภทอินเทอร์เฟซ

อินเทอร์เฟซแบบไม่เชื่อเรื่องพระเจ้าแบบโมเดลสำหรับดำเนินการจัดประเภท

tensorflow:: การให้บริการ :: ErrorInjectingSourceAdapter
tensorflow:: การให้บริการ :: FileSystemStoragePathSource

แหล่งที่มาของเส้นทางการจัดเก็บที่ต้องการเวอร์ชันสำหรับชุดของเซิร์ฟเวอร์ที่กำหนด

เทนเซอร์โฟลว์:: เสิร์ฟ:: ตัวโหลด

นามธรรมที่เป็นมาตรฐานสำหรับออบเจ็กต์ที่จัดการวงจรชีวิตของ Servable รวมถึงการโหลดและการขนถ่าย

เทนเซอร์โฟลว์:: เสิร์ฟ:: LoaderHarness

LoaderHarness เป็นวิดเจ็ตที่ Manager ใช้เพื่อจับและพูดคุยกับ Loader ในขณะที่มันเป็นเจ้าของ

เทนเซอร์โฟลว์:: เสิร์ฟ:: ผู้จัดการ

ผู้จัดการ มีหน้าที่รับผิดชอบในการโหลด ขนถ่าย ค้นหา และการจัดการตลอดอายุของออบเจ็กต์ที่ให้บริการได้ทั้งหมดผ่านทางตัวโหลด

tensorflow:: การให้บริการ:: PathPrefixLoaderFactory

LoaderFactory แบบง่ายที่ค้นหา servable ที่เส้นทางที่เกิดขึ้นจากการต่อคำนำหน้าพาธคงที่กับชื่อของเซิร์ฟเวอร์

tensorflow:: เสิร์ฟ:: RegressorInterface

อินเทอร์เฟซแบบไม่เชื่อเรื่องพระเจ้าสำหรับดำเนินการถดถอย

tensorflow:: การให้บริการ :: ResourceUnsafeLoader

Loader ที่ไม่สนใจทรัพยากร

tensorflow:: การให้บริการ :: SavedModelBundleFactory

โรงงานที่สร้าง SavedModelBundles จากเส้นทางการส่งออก SavedModel หรือ SessionBundle

เทนเซอร์โฟลว์:: เสิร์ฟ:: ServableHandle

ตัวชี้อัจฉริยะไปยังอ็อบเจ็กต์ที่ให้บริการได้ T ที่ดึงมาจาก Loader

tensorflow:: การให้บริการ :: ServableStateMonitor

ยูทิลิตี้ที่รับฟัง EventBus<ServableState> และติดตามสถานะของเซิร์ฟเวอร์แต่ละรายการที่กล่าวถึงบนบัส

tensorflow:: การให้บริการ:: ServerCore

ServerCore ประกอบด้วยเมธอดของรัฐและตัวช่วยที่เปิดใช้งานการสร้าง ModelServers ที่รองรับอินเทอร์เฟซหลายตัว

tensorflow:: เสิร์ฟ:: ServingSession

เซสชันที่บล็อกวิธีการเปลี่ยนสถานะ เช่น ปิด () ในขณะที่อนุญาตให้เรียกใช้ () สำหรับการเข้าถึงแบบอ่านอย่างเดียว (ไม่ได้บังคับใช้)

tensorflow:: การให้บริการ :: ServingSessionWrapper

ServingSession ที่ล้อมเซสชันที่กำหนด และบล็อกการเรียกทั้งหมดที่ไม่ใช่ Run()

tensorflow:: การให้บริการ:: SharedPtrHandle

การใช้งาน UntypedServableHandle โดยใช้ shared_ptr เพื่อทำการนับอ้างอิงบน Loader ที่เป็นเจ้าของ Servable

เทนเซอร์โฟลว์:: เสิร์ฟ:: ที่มา

นามธรรมสำหรับโมดูลที่แหล่งที่มาของเซิร์ฟเวอร์เพื่อโหลด หรือแม่นยำยิ่งขึ้น จัดการกับข้อมูลที่สามารถใช้เพื่อโหลดเซิร์ฟเวอร์เหล่านั้นได้

tensorflow:: การให้บริการ:: SourceAdapter

สิ่งที่เป็นนามธรรมสำหรับโมดูลที่ได้รับการเรียกกลับในเวอร์ชันที่ต้องการด้วยข้อมูลประเภท InputType และแปลงเป็นการเรียกด้วยข้อมูลประเภท OutputType

tensorflow:: การให้บริการ:: UnarySourceAdapter
tensorflow:: การให้บริการ :: UntypedServableHandle

แฮนเดิลที่ไม่ใช่เทมเพลทสำหรับเซิร์ฟเวอร์ ใช้ภายในใน Manager เพื่อดึงออบเจ็กต์ที่แสดงผลได้ซึ่งลบประเภทออกจาก Loader

โครงสร้าง

tensorflow:: การให้บริการ :: AspiredServableStateSnapshot

ภาพรวมของสถานะและความทะเยอทะยานของผู้รับใช้

tensorflow:: เสิร์ฟ:: ServableRequest

เคียวรีสำหรับอ็อบเจ็กต์ที่โหลดได้เฉพาะที่โหลดได้

tensorflow:: การให้บริการ :: ServableStateSnapshot

เนมสเปซ

เทนเซอร์โฟลว์:: เสิร์ฟ:: ภายใน
เทนเซอร์โฟลว์:: เสิร์ฟ :: test_util

Typedefs

LoaderSource

Source< std::unique_ptr< Loader >> LoaderSource

StoragePathSourceAdapter

SourceAdapter< StoragePath, std::unique_ptr< Loader >> StoragePathSourceAdapter

ฟังก์ชั่น

DEFINE_CLASS_REGISTRY

 DEFINE_CLASS_REGISTRY(
  StoragePathSourceAdapterRegistry,
  StoragePathSourceAdapter
)

โอเปอเรเตอร์!=

bool operator!=(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

โอเปอเรเตอร์!=

bool operator!=(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

โอเปอเรเตอร์!=

constexpr bool operator!=(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

โอเปอเรเตอร์!=

bool operator!=(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)

โอเปอเรเตอร์

std::ostream & operator<<(
  std::ostream & os,
  LoaderHarness::State state
)

โอเปอเรเตอร์

std::ostream & operator<<(
  std::ostream & os,
  const ServableStateMonitor::ServableStateAndTime & state_and_time
)

โอเปอเรเตอร์==

bool operator==(
  const AspiredVersionPolicy::ServableAction & lhs,
  const AspiredVersionPolicy::ServableAction & rhs
)

โอเปอเรเตอร์==

bool operator==(
  const Loader::Metadata & a,
  const Loader::Metadata & b
)

โอเปอเรเตอร์==

bool operator==(
  const ServableStateSnapshot< T > & a,
  const ServableStateSnapshot< T > & b
)

โอเปอเรเตอร์==

constexpr bool operator==(
  const ServableHandle< T > & l,
  const ServableHandle< U > & r
)

โอเปอเรเตอร์==

bool operator==(
  const ServableStateMonitor::ServableStateAndTime & a,
  const ServableStateMonitor::ServableStateAndTime & b
)