टेंसरफ़्लो:: सेवारत:: आकांक्षी संस्करण प्रबंधक:: विकल्प
#include <aspired_versions_manager.h>कॉन्फ़िग विकल्प और प्लगेबल ऑब्जेक्ट द्वारा उपयोग किया जाएगा AspiredVersionsManager ।
सारांश
सार्वजनिक गुण | |
|---|---|
aspired_version_policy | std::unique_ptr< AspiredVersionPolicy > AspiredVersionPolicy प्रबंधक के लिए उपयोग करने के लिए। गैर-शून्य होना चाहिए। |
env = Env::Default() | Env * थ्रेड-पूल में या सोने के लिए थ्रेड शुरू करने के लिए उपयोग किया जाने वाला वातावरण। |
flush_filesystem_caches = false | bool |
load_retry_interval_micros = 1LL * 60 * 1000 * 1000 | int64 माइक्रोसेकंड में, प्रत्येक सेवा योग्य लोड पुनर्प्रयास के बीच का अंतराल। |
manage_state_interval_micros = 100 * 1000 | int64 थ्रेड की आवधिकता, माइक्रोसेकंड में, जो सर्वेबल्स की स्थिति का प्रबंधन करती है। |
max_num_load_retries = 5 | uint32 हम हार मानने से पहले, पहली बार विफल होने के बाद, सर्व करने योग्य लोड करने के लिए अधिकतम बार पुनः प्रयास करते हैं। |
num_load_threads = 0 | uint32 थ्रेड-पूल में थ्रेड्स की संख्या सर्व करने योग्य लोड करने के लिए उपयोग की जाती है। |
num_unload_threads = 0 | uint32 थ्रेड-पूल में थ्रेड्स की संख्या सर्वेबल्स को अनलोड करने के लिए उपयोग की जाती है। |
pre_load_hook | PreLoadHook एक सर्व करने योग्य लोड होने से ठीक पहले कॉल करने के लिए कॉलबैक। |
resource_tracker | std::unique_ptr< ResourceTracker > उपलब्ध संसाधनों का प्रबंधन करते समय उपयोग किया जाने वाला संसाधन ट्रैकर। |
servable_event_bus = nullptr | EventBus< ServableState > * EventBus सेवा योग्य स्थिति परिवर्तन प्रकाशित करने के लिए। |
सार्वजनिक गुण
आकांक्षी_संस्करण_नीति
std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy
AspiredVersionPolicy प्रबंधक के लिए उपयोग करने के लिए। गैर-शून्य होना चाहिए।
env
Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()
थ्रेड-पूल में या सोने के लिए थ्रेड शुरू करने के लिए उपयोग किया जाने वाला वातावरण।
फ्लश_फाइलसिस्टम_कैश
bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false
load_retry_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000
माइक्रोसेकंड में, प्रत्येक सेवा योग्य लोड पुनर्प्रयास के बीच का अंतराल।
यदि नकारात्मक सेट किया जाता है, तो हम प्रतीक्षा नहीं करते हैं। डिफ़ॉल्ट: 1 मिनट।
manage_state_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000
थ्रेड की आवधिकता, माइक्रोसेकंड में, जो सर्वेबल्स की स्थिति का प्रबंधन करती है।
डिफ़ॉल्ट: 100 मिलीसेकंड। यदि यह 0 से कम या इसके बराबर सेट है, तो हम इस थ्रेड को बिल्कुल भी नहीं चलाते हैं।
max_num_load_retrys
uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5
हम हार मानने से पहले, पहली बार विफल होने के बाद, सर्व करने योग्य लोड करने के लिए अधिकतम बार पुनः प्रयास करते हैं।
num_load_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0
थ्रेड-पूल में थ्रेड्स की संख्या सर्व करने योग्य लोड करने के लिए उपयोग की जाती है।
यदि 0 के रूप में सेट किया जाता है, तो हम थ्रेड-पूल का उपयोग नहीं करते हैं, और प्रबंधक के मुख्य कार्य लूप में सेवा योग्य भार क्रमिक रूप से किए जाते हैं।
num_unload_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0
थ्रेड-पूल में थ्रेड्स की संख्या सर्वेबल्स को अनलोड करने के लिए उपयोग की जाती है।
यदि 0 के रूप में सेट किया जाता है, तो हम थ्रेड-पूल का उपयोग नहीं करते हैं, और सेवा योग्य अनलोड प्रबंधक के मुख्य कार्य लूप में क्रमिक रूप से किए जाते हैं।
प्री_लोड_हुक
PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook
एक सर्व करने योग्य लोड होने से ठीक पहले कॉल करने के लिए कॉलबैक।
यह उसी प्रबंधक लोड थ्रेड पर कॉल करेगा जो लोड शुरू करता है।
संसाधन_ट्रैकर
std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker
उपलब्ध संसाधनों का प्रबंधन करते समय उपयोग किया जाने वाला संसाधन ट्रैकर।
वैकल्पिक। यदि नलप्टर के रूप में छोड़ दिया जाता है, तो हम सर्व करने योग्य संसाधन उपयोग को मान्य नहीं करते हैं।
सर्व करने योग्य_घटना_बस
EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr
EventBus सेवा योग्य स्थिति परिवर्तन प्रकाशित करने के लिए।
यह वैकल्पिक है, अगर सेट नहीं किया गया है, तो हम प्रकाशित नहीं करते हैं।