Komponen BulkInferrer TFX melakukan inferensi batch pada data yang tidak berlabel. InferenceResult( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) yang dihasilkan berisi fitur asli dan hasil prediksi.
BulkInferrer menggunakan:
- Model terlatih dalam format SavedModel .
- Tf tak berlabel. Contoh yang berisi fitur.
- (Opsional) Hasil validasi dari komponen Evaluator .
BulkInferrer mengeluarkan:
Menggunakan Komponen BulkInferrer
Komponen TFX BulkInferrer digunakan untuk melakukan inferensi batch pada tf.Examples yang tidak berlabel. Biasanya diterapkan setelah komponen Evaluator untuk melakukan inferensi dengan model yang divalidasi, atau setelah komponen Pelatih untuk langsung melakukan inferensi pada model yang diekspor.
Saat ini ia melakukan inferensi model dalam memori dan inferensi jarak jauh. Inferensi jarak jauh mengharuskan model dihosting di Cloud AI Platform.
Kode tipikal terlihat seperti ini:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Detail lebih lanjut tersedia di referensi API BulkInferrer .