टेंसरफ़्लो:: सेवारत:: आकांक्षी संस्करण प्रबंधक:: विकल्प

#include <aspired_versions_manager.h>

कॉन्फ़िग विकल्प और प्लगेबल ऑब्जेक्ट द्वारा उपयोग किया जाएगा AspiredVersionsManager

सारांश

सार्वजनिक गुण

aspired_version_policy
std::unique_ptr< AspiredVersionPolicy >
AspiredVersionPolicy प्रबंधक के लिए उपयोग करने के लिए। गैर-शून्य होना चाहिए।
env = Env::Default()
Env *
थ्रेड-पूल में या सोने के लिए थ्रेड शुरू करने के लिए उपयोग किया जाने वाला वातावरण।
flush_filesystem_caches = false
bool
load_retry_interval_micros = 1LL * 60 * 1000 * 1000
int64
माइक्रोसेकंड में, प्रत्येक सेवा योग्य लोड पुनर्प्रयास के बीच का अंतराल।
manage_state_interval_micros = 100 * 1000
int64
थ्रेड की आवधिकता, माइक्रोसेकंड में, जो सर्वेबल्स की स्थिति का प्रबंधन करती है।
max_num_load_retries = 5
uint32
हम हार मानने से पहले, पहली बार विफल होने के बाद, सर्व करने योग्य लोड करने के लिए अधिकतम बार पुनः प्रयास करते हैं।
num_load_threads = 0
uint32
थ्रेड-पूल में थ्रेड्स की संख्या सर्व करने योग्य लोड करने के लिए उपयोग की जाती है।
num_unload_threads = 0
uint32
थ्रेड-पूल में थ्रेड्स की संख्या सर्वेबल्स को अनलोड करने के लिए उपयोग की जाती है।
pre_load_hook
PreLoadHook
एक सर्व करने योग्य लोड होने से ठीक पहले कॉल करने के लिए कॉलबैक।
resource_tracker
std::unique_ptr< ResourceTracker >
उपलब्ध संसाधनों का प्रबंधन करते समय उपयोग किया जाने वाला संसाधन ट्रैकर।
servable_event_bus = nullptr
EventBus< ServableState > *
EventBus सेवा योग्य स्थिति परिवर्तन प्रकाशित करने के लिए।

सार्वजनिक गुण

आकांक्षी_संस्करण_नीति

std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy

AspiredVersionPolicy प्रबंधक के लिए उपयोग करने के लिए। गैर-शून्य होना चाहिए।

env

Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()

थ्रेड-पूल में या सोने के लिए थ्रेड शुरू करने के लिए उपयोग किया जाने वाला वातावरण।

फ्लश_फाइलसिस्टम_कैश

bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false

load_retry_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000

माइक्रोसेकंड में, प्रत्येक सेवा योग्य लोड पुनर्प्रयास के बीच का अंतराल।

यदि नकारात्मक सेट किया जाता है, तो हम प्रतीक्षा नहीं करते हैं। डिफ़ॉल्ट: 1 मिनट।

manage_state_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000

थ्रेड की आवधिकता, माइक्रोसेकंड में, जो सर्वेबल्स की स्थिति का प्रबंधन करती है।

डिफ़ॉल्ट: 100 मिलीसेकंड। यदि यह 0 से कम या इसके बराबर सेट है, तो हम इस थ्रेड को बिल्कुल भी नहीं चलाते हैं।

max_num_load_retrys

uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5

हम हार मानने से पहले, पहली बार विफल होने के बाद, सर्व करने योग्य लोड करने के लिए अधिकतम बार पुनः प्रयास करते हैं।

num_load_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0

थ्रेड-पूल में थ्रेड्स की संख्या सर्व करने योग्य लोड करने के लिए उपयोग की जाती है।

यदि 0 के रूप में सेट किया जाता है, तो हम थ्रेड-पूल का उपयोग नहीं करते हैं, और प्रबंधक के मुख्य कार्य लूप में सेवा योग्य भार क्रमिक रूप से किए जाते हैं।

num_unload_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0

थ्रेड-पूल में थ्रेड्स की संख्या सर्वेबल्स को अनलोड करने के लिए उपयोग की जाती है।

यदि 0 के रूप में सेट किया जाता है, तो हम थ्रेड-पूल का उपयोग नहीं करते हैं, और सेवा योग्य अनलोड प्रबंधक के मुख्य कार्य लूप में क्रमिक रूप से किए जाते हैं।

प्री_लोड_हुक

PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook

एक सर्व करने योग्य लोड होने से ठीक पहले कॉल करने के लिए कॉलबैक।

यह उसी प्रबंधक लोड थ्रेड पर कॉल करेगा जो लोड शुरू करता है।

संसाधन_ट्रैकर

std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker

उपलब्ध संसाधनों का प्रबंधन करते समय उपयोग किया जाने वाला संसाधन ट्रैकर।

वैकल्पिक। यदि नलप्टर के रूप में छोड़ दिया जाता है, तो हम सर्व करने योग्य संसाधन उपयोग को मान्य नहीं करते हैं।

सर्व करने योग्य_घटना_बस

EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr

EventBus सेवा योग्य स्थिति परिवर्तन प्रकाशित करने के लिए।

यह वैकल्पिक है, अगर सेट नहीं किया गया है, तो हम प्रकाशित नहीं करते हैं।