يكمّم TensorBuffer
باستخدام zeroPoint
scale
المعطاة.
ملاحظة: لا يقوم QuantizeOp
بإرسال الإخراج إلى UINT8، ولكنه يقوم فقط بإجراء حسابات التكميم أعلى الإدخال. نوع بيانات موتر الإخراج هو دائمًا FLOAT32
باستثناء أن Op هو هوية Op بشكل فعال (في هذه الحالة، موتر الإخراج هو نفس مثيل الإدخال). للتواصل مع النموذج الكمي، ربما تكون هناك حاجة إلى CastOp
.
إذا كان كل من zeroPoint
scale
يساوي 0، فسيتم تجاوز QuantizeOp
، وهو ما يعادل ضبط zeroPoint
على 0 scale
إلى 1. يمكن أن يكون هذا مفيدًا عند تمرير معلمات التكميم التي يتم استخراجها مباشرة من المخزن المؤقت المسطح لنموذج TFLite. إذا لم يتم قياس الموتر، فستتم قراءة كل من zeroPoint
scale
على أنه 0.
المقاولون العامون
QuantizeOp (نقطة الصفر العائمة، مقياس التعويم) |
الطرق الموروثة
المقاولون العامون
QuantizeOp العام (نقطة الصفر العائمة، مقياس التعويم)
حدود
نقطة الصفر | |
---|---|
حجم |