tensorflow:: מָנָה:: AspiredVersionsManager:: אפשרויות

#include <aspired_versions_manager.h>

אפשרויות Config וחפצים לחיבור אשר ישמשו ידי AspiredVersionsManager .

סיכום

תכונות ציבוריות
aspired_version_policy	std::unique_ptr< AspiredVersionPolicy > AspiredVersionPolicy להשתמש עבור המנהל. חייב להיות לא ריק.
env = Env::Default()	Env * הסביבה לשימוש להתחלת חוטים במאגר החוטים או לשינה.
flush_filesystem_caches = false	bool
load_retry_interval_micros = 1LL * 60 * 1000 * 1000	int64 המרווח, במיקרו-שניות, בין כל ניסיון חוזר של עומס שניתן להגשה.
manage_state_interval_micros = 100 * 1000	int64 המחזוריות, במיקרו-שניות, של החוט המנהל את מצב המנות הניתנות להגשה.
max_num_load_retries = 5	uint32 מספר הפעמים המרבי שאנו מנסים לטעון קובץ הגשה, לאחר הכישלון הראשון, לפני שאנו מוותרים.
num_load_threads = 0	uint32 מספר החוטים במאגר השרשורים המשמשים לטעינת חומרי הגשה.
num_unload_threads = 0	uint32 מספר השרשורים במאגר השרשורים המשמשים לפריקת חומרי הגשה.
pre_load_hook	PreLoadHook התקשרות חוזרת תיקרא רגע לפני טעינת קובץ הגשה.
resource_tracker	std::unique_ptr< ResourceTracker > מעקב המשאבים לשימוש בעת ניהול משאבים שניתנים להגשה.
servable_event_bus = nullptr	EventBus< ServableState > * EventBus לפרסום שינויי מצב שניתנים להגשה.

תכונות ציבוריות

aspired_version_policy

std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy

AspiredVersionPolicy להשתמש עבור המנהל. חייב להיות לא ריק.

env

Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()

הסביבה לשימוש להתחלת חוטים במאגר החוטים או לשינה.

flush_filesystem_caches

bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false

load_retry_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000

המרווח, במיקרו-שניות, בין כל ניסיון חוזר של עומס שניתן להגשה.

אם מוגדר שלילי, אנחנו לא מחכים. ברירת מחדל: דקה אחת.

manage_state_interval_micros

int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000

המחזוריות, במיקרו-שניות, של החוט המנהל את מצב המנות הניתנות להגשה.

ברירת מחדל: 100 מילישניות. אם זה מוגדר פחות או שווה ל-0, אנחנו לא מפעילים את השרשור הזה בכלל.

max_num_load_resies

uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5

מספר הפעמים המרבי שאנו מנסים לטעון קובץ הגשה, לאחר הכישלון הראשון, לפני שאנו מוותרים.

num_load_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0

מספר החוטים במאגר השרשורים המשמשים לטעינת חומרי הגשה.

אם מוגדר כ-0, אנחנו לא משתמשים ב-Thread-pool, ועומסים שניתנים להגשה מבוצעים באופן סדרתי בלולאת העבודה הראשית של המנהל.

num_unload_threads

uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0

מספר השרשורים במאגר השרשורים המשמשים לפריקת חומרי הגשה.

אם מוגדר כ-0, אנחנו לא משתמשים ב-Thread-pool, ופריקות שניתנות להגשה מבוצעות באופן סדרתי בלולאת העבודה הראשית של המנהל.

הוק_pre_load

PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook

התקשרות חוזרת תיקרא רגע לפני טעינת קובץ הגשה.

זה יקרא לאותו שרשור עומס מנהל שמתחיל את הטעינה.

resource_tracker

std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker

מעקב המשאבים לשימוש בעת ניהול משאבים שניתנים להגשה.

אופציונאלי. אם נשאר כ-nullptr, איננו מאמתים את השימוש במשאבים שניתן להגיש.

אוטובוס_event_servable

EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr

EventBus לפרסום שינויי מצב שניתנים להגשה.

זה אופציונלי, אם לא מוגדר, אנחנו לא מפרסמים.