מחלקה סטטית ציבורית GpuDelegateFactory.Options
תת-מחלקות ישירות ידועות |
האצלת אפשרויות.
כיתות מקוננות
enum | GpuDelegateFactory.Options.GpuBackend | איזה GPU backend לבחור. |
קבועים
int | INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER | ייעשה שימוש ב-Delegate פעם אחת בלבד, לכן יש לקחת בחשבון את זמן האתחול/התחלה. |
int | INFERENCE_PREFERENCE_SUSTAINED_SPEED | העדיפו למקסם את התפוקה. |
בונים ציבוריים
אפשרויות () |
שיטות ציבוריות
בוליאני | |
GpuDelegateFactory.Options.GpuBackend | |
int | |
חוּט | |
חוּט | |
בוליאני | |
GpuDelegateFactory.אפשרויות | |
GpuDelegateFactory.אפשרויות | setInferencePreference (int preference) מגדיר את העדפת ההסקה עבור דיוק/קומפילציה/זמן ריצה. |
GpuDelegateFactory.אפשרויות | setPrecisionLossAllowed (דיוק בוליאניLossAllowed) קובע אם מותר אובדן דיוק. |
GpuDelegateFactory.אפשרויות | setQuantizedModelsAllowed (בוליאני quantizedModelsAllowed) מאפשר להפעיל מודלים כמותיים עם הנציג. |
GpuDelegateFactory.אפשרויות |
שיטות בירושה
קבועים
אינט סופי סטטי ציבורי INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER
ייעשה שימוש ב-Delegate פעם אחת בלבד, לכן יש לקחת בחשבון את זמן האתחול/התחלה.
ערך קבוע: 0
אינט סופי סטטי ציבורי INFERENCE_PREFERENCE_SUSTAINED_SPEED
העדיפו למקסם את התפוקה. אותו נציג ישמש שוב ושוב בכניסות מרובות.
ערך קבוע: 1
בונים ציבוריים
אפשרויות ציבוריות ()
שיטות ציבוריות
מודלים בוליאניים ציבוריים מותרים ()
public int getInferencePreference ()
בוליאני ציבורי הואPrecisionLossAllowed ()
public GpuDelegateFactory.Options setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)
מגדיר את ה-GPU Backend.
פרמטרים
forceBackend |
---|
public GpuDelegateFactory.Options setInferencePreference (int preference)
מגדיר את העדפת ההסקה עבור דיוק/קומפילציה/זמן ריצה.
פרמטרים
הַעֲדָפָה | אחד מתוך `INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER` (ברירת מחדל), `INFERENCE_PREFERENCE_SUSTAINED_SPEED`. |
---|
public GpuDelegateFactory.Options setPrecisionLossAllowed (דיוק בוליאניLossAllowed)
קובע אם מותר אובדן דיוק.
פרמטרים
precisionLossAllowed | כאשר הוא 'נכון' (ברירת מחדל), ה-GPU עשוי לכמת טנזורים, ערכים מופחתים, תהליך ב-FP16. כאשר 'שקר', החישובים מתבצעים בנקודה צפה של 32 סיביות. |
---|
public GpuDelegateFactory.Options setQuantizedModelsAllowed (בוליאני quantizedModelsAllowed)
מאפשר להפעיל מודלים כמותיים עם הנציג.
אזהרה: זהו API ניסיוני ונתון לשינויים.
פרמטרים
quantizedModelsמותרים | כאשר true (ברירת מחדל), ה-GPU עשוי להפעיל דגמים כמותיים. |
---|
public GpuDelegateFactory.Options setSerializationParams ( String serializationDir, String modelToken)
מאפשר הצגת סדרה על הנציג. שים לב להמשכת serializationDir
לא-nullDir ו- modelToken
.
אזהרה: זהו API ניסיוני ונתון לשינויים.
פרמטרים
סידורי דיר | הספרייה לשימוש לאחסון נתונים. המתקשר אחראי לוודא שהדגם אינו מאוחסן בספרייה ציבורית. מומלץ להשתמש Context.getCodeCacheDir() כדי לספק מיקום פרטי לאפליקציה באנדרואיד. |
---|---|
modelToken | האסימון שישמש לזיהוי הדגם. המתקשר אחראי לוודא שהאסימון ייחודי לגרף המודל ולנתונים. |