BulkInferrer TFX 组件可以对无标签数据执行批量推断。生成的 InferenceResult (tensorflow_serving.apis.prediction_log_pb2.PredictionLog) 包含原始特征和预测结果。
BulkInferrer 使用以下内容:
- SavedModel 格式的训练模型。
- 包含特征的无标签 tf.Examples。
- (可选)来自 Evaluator 组件的验证结果。
BulkInferrer 发出以下内容:
使用 BulkInferrer 组件
BulkInferrer TFX 组件用于基于无标签的 tf.Examples 执行批量推断。通常将其部署在 Evaluator 组件之后以使用验证的模型执行推断,或者部署在 Trainer 组件之后以直接在导出的模型上执行推断。
目前,它可以执行内存中模型推断和远程推断。远程推断要求模型托管在 Cloud AI Platform 上。
典型的代码如下所示:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
有关更多详细信息,请参阅 BulkInferrer API 参考。