BERT 質問応答

TensorFlow Lite モデルを使用して、特定のパッセージの内容に基づいて質問に答えます。

注意: (1) 既存のモデルを統合するには、TensorFlow Lite Task Library を試してください。(2) モデルをカスタマイズするには、TensorFlow Lite Model Maker を試してください。

はじめに

TensorFlow Lite を初めて使用する場合、Android または iOS を使用する場合は、以下のサンプルアプリをご覧ください。

Android の例 iOS の例

Android または iOS 以外のプラットフォームを使用する場合、または、すでに TensorFlow Lite API に精通している場合は、質問応答スターターモデルをダウンロードしてください。

スターターモデルと語彙をダウンロードする

メタデータと関連フィールド (vocab.txtなど) の詳細については、「モデルからメタデータを読み取る」をご覧ください。

使い方

このモデルを使用すると、ユーザーの質問に自然言語で応答できるシステムを構築できます。これは、SQuAD 1.1 データセットでファインチューニングされた事前トレーニング済み BERT モデルを使用して作成されました。

BERT (Bidirectional Encoder Representations from Transformers) は、言語表現を事前トレーニングする方法で、さまざまな自然言語処理タスクで最先端の結果を取得できます。

このアプリは、BERT の圧縮バージョンである MobileBERT を使用します。これは 4 倍の速度で実行し、モデルサイズは 1/4 になります。

SQuAD (Stanford Question Answering Dataset) は、ウィキペディアの記事と、各記事の一連の質問と応答のペアで構成される読解データセットです。

モデルは、パッセージと質問を入力として取り、質問への応答としての可能性が最も高いパッセージのセグメントを返します。これには、トークン化と後処理ステップを含むやや複雑な前処理が必要です。これらは BERT に関する論文で説明され、サンプルアプリで実装されています。

パフォーマンスベンチマーク

パフォーマンスベンチマークの数値は、ここで説明するツールで生成されます。

モデル名 モデルサイズ デバイス CPU
Mobile Bert 100.5 Mb Pixel 3 (Android 10) 123ms*
Pixel 4 (Android 10) 74ms*
iPhone XS (iOS 12.4.1) 257ms**
  • 4 threads used.

** 最高のパフォーマンス結果を得るために、iPhone では 2 つのスレッドを使用。

出力例

パッセージ (入力)

Google LLC は、オンライン広告技術、検索エンジン、クラウドコンピューティング、ソフトウェア、ハードウェアなど、インターネット関連のサービスと製品を専門とするアメリカの多国籍テクノロジー企業です。アマゾン、アップル、フェイスブックと並んで、4 大テクノロジー企業の 1 つと見なされています。

当時カリフォルニア州のスタンフォード大学の博士課程に在籍していたラリー・ペイジとサーゲイ・ブリンにより設立されました。現在でも 2 人 合わせて約 14% の株を保有し、スーパー投票株を通じて株主投票権の 56% を制御しています。Google は 1998 年 9 月 4 日にカリフォルニア州でカリフォルニアの非公開会社として設立されました。その後、Google は 2002 年 10 月 22 日にデラウェア州で再度法人として設立されました。2004 年 8 月 19 日に株式公開 (IPO) が行われ、Google は Googleplex と呼ばれるカリフォルニア州マウンテンビューの本社に移転しました。2015 年 8 月、Google は Alphabet Inc と呼ばれるコングロマリットとしてさまざまな事業を再編成する計画を発表しました。Google は Alphabet 社の主要な子会社として、引き続きインターネット関係の事業に包括的に取り組みます。 ラリー・ペイジの後任としてスンダー・ピチャイが新 CEO に就任し、ラリー・ペイジは Alphabet の CEO に着任しました。

質問（入力）

Google の CEO は誰ですか？

応答（出力）

スンダー・ピチャイ

BERT の詳細を読む