Komponen BulkInferrer TFX melakukan inferensi batch pada data yang tidak berlabel. InferenceResult yang dihasilkan ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) berisi fitur asli dan hasil prediksi.
BulkInferrer mengkonsumsi:
- Sebuah model terlatih dalam SavedModel Format.
- tf.Contoh tidak berlabel yang berisi fitur.
- (Opsional) Validasi hasil dari Evaluator komponen.
BulkInferrer memancarkan:
Menggunakan Komponen BulkInferrer
Komponen TFX BulkInferrer digunakan untuk melakukan inferensi batch pada tf.Contoh yang tidak berlabel. Hal ini biasanya digunakan setelah Evaluator komponen untuk melakukan inferensi dengan model divalidasi, atau setelah Trainer komponen untuk langsung melakukan inferensi pada model diekspor.
Saat ini melakukan inferensi model dalam memori dan inferensi jarak jauh. Inferensi jarak jauh mengharuskan model dihosting di Cloud AI Platform.
Kode khas terlihat seperti ini:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Keterangan lebih lanjut tersedia dalam referensi BulkInferrer API .