ケラスNLP
TensorFlow でテキストの処理を開始する最も簡単な方法は、最先端のプリセット重みとアーキテクチャを備えたモジュール式コンポーネントを提供する自然言語処理ライブラリである KerasNLP を使用することです。 KerasNLP コンポーネントはそのまま使用することも、必要に応じてカスタマイズすることもできます。 KerasNLP はすべてのワークフローのグラフ内計算を重視しているため、TensorFlow エコシステムを使用した簡単な本番環境が期待できます。
KerasNLP をインストールするには、 「インストール」を参照してください。
TensorFlow テキスト
tensorflow_text
パッケージは、TensorFlow ですぐに使用できるテキスト関連のクラスと操作のコレクションを提供します。このライブラリは、テキストベースのモデルで定期的に必要とされる前処理を実行でき、コア TensorFlow では提供されないシーケンス モデリングに役立つその他の機能が含まれています。
インストールの詳細については、ガイドを参照してください
TensorFlow モデル - NLP
TensorFlow モデル リポジトリは、最先端 (SOTA) モデルの実装を提供します。 tensorflow-models-official
pip パッケージには、 nlp.layers
、 nlp.losses
、 nlp.models
、 nlp.tasks
など、SOTA NLP モデルを構築するための多くの高レベルの関数とクラスが含まれています。
pip
を使用してパッケージをインストールできます。
$ pip install tensorflow-models-official # For the latest release
$ #or
$ pip install tf-models-nightly # For the nightly build
NLP 機能は、 tfm.nlp
サブモジュールで使用できます。
import tensorflow_models as tfm
tfm.nlp