BulkInferrer TFX コンポーネントは、ラベルの無いデータで一括推論を実行します。生成される InferenceResult(tensorflow_serving.apis.prediction_log_pb2.PredictionLog) には、元の特徴量と予測結果が含まれます。
BulkInferrer は次の項目を消費します。
- SavedModel 形式のトレーニング済みモデル
- 特徴量を含むラベル無しの tf.Examples
- （オプション）Evaluator コンポーネントの検証結果
BulkInferrer は次の項目を発します。
BulkInferrer コンポーネントを使用する
BulkInferrer TFX コンポーネントは、ラベル無しの tf.Examples に対して一括推論を実行するために使用されます。通常、検証済みのモデルで推論を実行するように Evaluator の後にデプロイされるか、エクスポートされたモデルで直接推論を実行するように Trainer コンポーネントの後にデプロイされます。
現在、インメモリモデル推論とリモート推論を実行します。リモート推論の場合は、モデルが Cloud AI Platform にホストされている必要があります。
次は、典型的なコードです。
from tfx import components
...
bulk_inferrer = components.BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
より詳細な情報は、BulkInferrer API リファレンスをご覧ください。