BulkInferrer TFX bileşeni, etiketlenmemiş veriler üzerinde toplu çıkarım gerçekleştirir. Oluşturulan InferenceResult( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) orijinal özellikleri ve tahmin sonuçlarını içerir.
BulkInferrer şunu tüketir:
- SavedModel biçiminde eğitilmiş bir model.
- Etiketsiz tf.Özellik içeren örnekler.
- (İsteğe bağlı) Değerlendirici bileşeninden doğrulama sonucu.
BulkInferrer şunları yayar:
BulkInferrer Bileşenini Kullanma
BulkInferrer TFX bileşeni, etiketlenmemiş tf.Examples üzerinde toplu çıkarım gerçekleştirmek için kullanılır. Genellikle, doğrulanmış bir modelle çıkarım yapmak için bir Evaluator bileşeninden sonra veya dışa aktarılan model üzerinde doğrudan çıkarım yapmak için bir Trainer bileşeninden sonra dağıtılır.
Şu anda bellek içi model çıkarımı ve uzaktan çıkarım gerçekleştirmektedir. Uzaktan çıkarım, modelin Cloud AI Platform'da barındırılmasını gerektirir.
Tipik kod şuna benzer:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
BulkInferrer API referansında daha fazla ayrıntı mevcuttur.