공개 클래스 QuantizeOp
주어진 zeroPoint
및 scale
사용하여 TensorBuffer
를 양자화합니다.
참고: QuantizeOp
출력을 UINT8로 변환하지 않고 입력에 대한 양자화 수학만 수행합니다. 출력 텐서의 데이터 유형은 Op가 사실상 항등 Op인 점을 제외하면 항상 FLOAT32
입니다(이 경우 출력 텐서는 입력과 동일한 인스턴스입니다). 양자화된 모델과 연결하려면 CastOp
가 필요할 수 있습니다.
zeroPoint
와 scale
모두 0이면 QuantizeOp
우회됩니다. 이는 zeroPoint
0으로 설정하고 scale
1로 설정하는 것과 같습니다. 이는 TFLite 모델 플랫 버퍼에서 직접 추출된 양자화 매개변수를 전달할 때 유용할 수 있습니다. 텐서가 양자화되지 않으면 zeroPoint
와 scale
모두 0으로 읽혀집니다.
공공 생성자
QuantizeOp (부동 zeroPoint, 부동 스케일) |
상속된 메서드
공공 생성자
public QuantizeOp (부동 zeroPoint, 부동 스케일)
매개변수
영점 | |
---|---|
규모 |