Help protect the Great Barrier Reef with TensorFlow on Kaggle Join Challenge

集成 BERT 自然语言分类器

Task Library BertNLClassifier API 与将输入文本分类为不同类别的 NLClassifier 非常相似,不同之处在于,该 API 专门为 BERT 相关的模型定制,这些模型需要在 TFLite 模型之外使用 WordPiece 和 SentencePiece 标记化。

BertNLClassifier API 的主要功能

  • 将单个字符串作为输入,对该字符串进行分类,并输出 <Label, Score> 对作为分类结果。

  • 对输入文本执行计算图外的 WordPieceSentencePiece 标记化。

支持的 BertNLClassifier 模型

以下模型与 BertNLClassifier API 兼容。

用 Java 运行推断

步骤 1:导入 Gradle 依赖项和其他设置

.tflite 模型文件复制到将要运行模型的 Android 模块的资源目录下。指定不压缩该文件,并将 TensorFlow Lite 库添加到模块的 build.gradle 文件中。

android {
    // Other settings

    // Specify tflite file should not be compressed for the app apk
    aaptOptions {
        noCompress "tflite"
    }

}

dependencies {
    // Other dependencies

    // Import the Task Text Library dependency
    implementation 'org.tensorflow:tensorflow-lite-task-text:0.1.0'
}

步骤 2:使用 API 运行推断

// Initialization
BertNLClassifier classifier = BertNLClassifier.createFromFile(context, modelFile);

// Run inference
List<Category> results = classifier.classify(input);

有关详情,请参阅源代码

用 Swift 运行推断

步骤 1:导入 CocoaPods

在 Podfile 中添加 TensorFlowLiteTaskText Pod。

target 'MySwiftAppWithTaskAPI' do
  use_frameworks!
  pod 'TensorFlowLiteTaskText', '~> 0.0.1-nightly'
end

步骤 2:使用 API 运行推断

// Initialization
let bertNLClassifier = TFLBertNLClassifier.bertNLClassifier(
      modelPath: bertModelPath)

// Run inference
let categories = bertNLClassifier.classify(text: input)

有关详情,请参阅源代码

用 C++ 运行推断

注:我们正在改善 C++ Task Library 的可用性,如提供预先构建的二进制文件,并创建用户友好的工作流以从源代码进行构建。C++ API 可能会发生变化。

// Initialization
std::unique_ptr<BertNLClassifier> classifier = BertNLClassifier::CreateFromFile(model_path).value();

// Run inference
std::vector<core::Category> categories = classifier->Classify(kInput);

有关详情,请参阅源代码

结果示例

下面是使用 Model Maker 中的 MobileBert 模型对电影评论进行分类的结果示例。

输入:“it's a charming and often affecting journey”

输出:

category[0]: 'negative' : '0.00006'
category[1]: 'positive' : '0.99994'

用您自己的模型和测试数据试用简单的 BertNLClassifier CLI 演示工具

模型兼容性要求

BetNLClassifier API 需要具有强制性 TFLite 模型元数据的 TFLite 模型。

元数据应满足以下要求:

  • 用于 WordPiece/SentencePiece 标记器的 input_process_units

  • 3 个名称为 "ids"、"mask" 和 "segment_ids" 的输入张量,用于标记器的输出

  • 1 个类型为 float32 的输出张量,并可选择附加标签文件。如果附加了标签文件,则该文件应该为纯文本文件,每行一个标签,标签的数量应与模型输出的类别数量相匹配。