מכמת TensorBuffer
עם zeroPoint
וקנה scale
.
הערה: QuantizeOp
לא מעביר פלט ל-UINT8, אלא רק מבצע את מתמטיקה לכימות על גבי הקלט. סוג הנתונים של טנזור הפלט הוא תמיד FLOAT32
פרט לכך שה-Op הוא למעשה אופ של זהות (במקרה זה, טנזור הפלט הוא אותו מופע כמו הקלט). כדי להתחבר למודל כמותי, כנראה יש צורך ב- CastOp
.
אם הן zeroPoint
והן scale
הם 0, ה- QuantizeOp
יעקוף, וזה שווה ערך להגדרת zeroPoint
ל-0 וקנה scale
ל-1. זה יכול להיות שימושי כאשר מעבירים את פרמטרי הקוונטיזציה שנשלפים ישירות מה-flatbuffer של מודל TFLite. אם הטנזור אינו מכומד, הן zeroPoint
והן scale
ייקראו כ-0.
בונים ציבוריים
QuantizeOp (צף zeroPoint, סולם צף) |
שיטות בירושה
בונים ציבוריים
QuantizeOp ציבורי (צף zeroPoint, סולם צף)
פרמטרים
נקודת אפס | |
---|---|
סוּלָם |