ML Community Day is November 9! Join us for updates from TensorFlow, JAX, and more Learn more

BulkInferrer TFX 流水线组件

BulkInferrer TFX 组件可以对无标签数据执行批量推断。生成的 InferenceResult (tensorflow_serving.apis.prediction_log_pb2.PredictionLog) 包含原始特征和预测结果。

BulkInferrer 使用以下内容:

  • SavedModel 格式的训练模型。
  • 包含特征的无标签 tf.Examples。
  • (可选)来自 Evaluator 组件的验证结果。

BulkInferrer 发出以下内容:

使用 BulkInferrer 组件

BulkInferrer TFX 组件用于基于无标签的 tf.Examples 执行批量推断。通常将其部署在 Evaluator 组件之后以使用验证的模型执行推断,或者部署在 Trainer 组件之后以直接在导出的模型上执行推断。

目前,它可以执行内存中模型推断和远程推断。远程推断要求模型托管在 Cloud AI Platform 上。

典型的代码如下所示:

bulk_inferrer = BulkInferrer(
    examples=examples_gen.outputs['examples'],
    model=trainer.outputs['model'],
    model_blessing=evaluator.outputs['blessing'],
    data_spec=bulk_inferrer_pb2.DataSpec(),
    model_spec=bulk_inferrer_pb2.ModelSpec()
)

有关更多详细信息,请参阅 BulkInferrer API 参考