wmt18

参考文献:

• コード
• ハグフェイス

CS-ja

次のコマンドを使用して、このデータセットを TFDS にロードします。

ds = tfds.load('huggingface:wmt18/cs-en')

• 説明：

Translate dataset based on the data from statmt.org.

Versions exists for the different years using a combination of multiple data
sources. The base `wmt_translate` allows you to create your own config to choose
your own data/language pair by creating a custom `datasets.translate.wmt.WmtConfig`.


config = datasets.wmt.WmtConfig(
    version="0.0.1",
    language_pair=("fr", "de"),
    subsets={
        datasets.Split.TRAIN: ["commoncrawl_frde"],
        datasets.Split.VALIDATION: ["euelections_dev2019"],
    },
)
builder = datasets.builder("wmt_translate", config=config)

• ライセンス: 不明なライセンス
• バージョン: 1.0.0
• 分割:

スプリット	例
'test'	2983
'train'	11046024
'validation'	3005

• 特徴：

{
    "translation": {
        "languages": [
            "cs",
            "en"
        ],
        "id": null,
        "_type": "Translation"
    }
}

デ・エン

次のコマンドを使用して、このデータセットを TFDS にロードします。

ds = tfds.load('huggingface:wmt18/de-en')

• 説明：

Translate dataset based on the data from statmt.org.

Versions exists for the different years using a combination of multiple data
sources. The base `wmt_translate` allows you to create your own config to choose
your own data/language pair by creating a custom `datasets.translate.wmt.WmtConfig`.


config = datasets.wmt.WmtConfig(
    version="0.0.1",
    language_pair=("fr", "de"),
    subsets={
        datasets.Split.TRAIN: ["commoncrawl_frde"],
        datasets.Split.VALIDATION: ["euelections_dev2019"],
    },
)
builder = datasets.builder("wmt_translate", config=config)

• ライセンス: 不明なライセンス
• バージョン: 1.0.0
• 分割:

スプリット	例
'test'	2998
'train'	42271874
'validation'	3004

• 特徴：

{
    "translation": {
        "languages": [
            "de",
            "en"
        ],
        "id": null,
        "_type": "Translation"
    }
}

et-en

次のコマンドを使用して、このデータセットを TFDS にロードします。

ds = tfds.load('huggingface:wmt18/et-en')

• 説明：

Translate dataset based on the data from statmt.org.

Versions exists for the different years using a combination of multiple data
sources. The base `wmt_translate` allows you to create your own config to choose
your own data/language pair by creating a custom `datasets.translate.wmt.WmtConfig`.


config = datasets.wmt.WmtConfig(
    version="0.0.1",
    language_pair=("fr", "de"),
    subsets={
        datasets.Split.TRAIN: ["commoncrawl_frde"],
        datasets.Split.VALIDATION: ["euelections_dev2019"],
    },
)
builder = datasets.builder("wmt_translate", config=config)

• ライセンス: 不明なライセンス
• バージョン: 1.0.0
• 分割:

スプリット	例
'test'	2000年
'train'	2175873
'validation'	2000年

• 特徴：

{
    "translation": {
        "languages": [
            "et",
            "en"
        ],
        "id": null,
        "_type": "Translation"
    }
}

フィエン

次のコマンドを使用して、このデータセットを TFDS にロードします。

ds = tfds.load('huggingface:wmt18/fi-en')

• 説明：

Translate dataset based on the data from statmt.org.

Versions exists for the different years using a combination of multiple data
sources. The base `wmt_translate` allows you to create your own config to choose
your own data/language pair by creating a custom `datasets.translate.wmt.WmtConfig`.


config = datasets.wmt.WmtConfig(
    version="0.0.1",
    language_pair=("fr", "de"),
    subsets={
        datasets.Split.TRAIN: ["commoncrawl_frde"],
        datasets.Split.VALIDATION: ["euelections_dev2019"],
    },
)
builder = datasets.builder("wmt_translate", config=config)

• ライセンス: 不明なライセンス
• バージョン: 1.0.0
• 分割:

スプリット	例
'test'	3000
'train'	3280600
'validation'	6004

• 特徴：

{
    "translation": {
        "languages": [
            "fi",
            "en"
        ],
        "id": null,
        "_type": "Translation"
    }
}

け～ん

次のコマンドを使用して、このデータセットを TFDS にロードします。

ds = tfds.load('huggingface:wmt18/kk-en')

• 説明：

Translate dataset based on the data from statmt.org.

Versions exists for the different years using a combination of multiple data
sources. The base `wmt_translate` allows you to create your own config to choose
your own data/language pair by creating a custom `datasets.translate.wmt.WmtConfig`.


config = datasets.wmt.WmtConfig(
    version="0.0.1",
    language_pair=("fr", "de"),
    subsets={
        datasets.Split.TRAIN: ["commoncrawl_frde"],
        datasets.Split.VALIDATION: ["euelections_dev2019"],
    },
)
builder = datasets.builder("wmt_translate", config=config)

• ライセンス: 不明なライセンス
• バージョン: 1.0.0
• 分割:

スプリット	例
'test'	0
'train'	0
'validation'	0

• 特徴：

{
    "translation": {
        "languages": [
            "kk",
            "en"
        ],
        "id": null,
        "_type": "Translation"
    }
}

ルアン

次のコマンドを使用して、このデータセットを TFDS にロードします。

ds = tfds.load('huggingface:wmt18/ru-en')

• 説明：

Translate dataset based on the data from statmt.org.

Versions exists for the different years using a combination of multiple data
sources. The base `wmt_translate` allows you to create your own config to choose
your own data/language pair by creating a custom `datasets.translate.wmt.WmtConfig`.


config = datasets.wmt.WmtConfig(
    version="0.0.1",
    language_pair=("fr", "de"),
    subsets={
        datasets.Split.TRAIN: ["commoncrawl_frde"],
        datasets.Split.VALIDATION: ["euelections_dev2019"],
    },
)
builder = datasets.builder("wmt_translate", config=config)

• ライセンス: 不明なライセンス
• バージョン: 1.0.0
• 分割:

スプリット	例
'test'	3000
'train'	36858512
'validation'	3001

• 特徴：

{
    "translation": {
        "languages": [
            "ru",
            "en"
        ],
        "id": null,
        "_type": "Translation"
    }
}

トレエン

次のコマンドを使用して、このデータセットを TFDS にロードします。

ds = tfds.load('huggingface:wmt18/tr-en')

• 説明：

Translate dataset based on the data from statmt.org.

Versions exists for the different years using a combination of multiple data
sources. The base `wmt_translate` allows you to create your own config to choose
your own data/language pair by creating a custom `datasets.translate.wmt.WmtConfig`.


config = datasets.wmt.WmtConfig(
    version="0.0.1",
    language_pair=("fr", "de"),
    subsets={
        datasets.Split.TRAIN: ["commoncrawl_frde"],
        datasets.Split.VALIDATION: ["euelections_dev2019"],
    },
)
builder = datasets.builder("wmt_translate", config=config)

• ライセンス: 不明なライセンス
• バージョン: 1.0.0
• 分割:

スプリット	例
'test'	3000
'train'	205756
'validation'	3007

• 特徴：

{
    "translation": {
        "languages": [
            "tr",
            "en"
        ],
        "id": null,
        "_type": "Translation"
    }
}

z-en

次のコマンドを使用して、このデータセットを TFDS にロードします。

ds = tfds.load('huggingface:wmt18/zh-en')

• 説明：

Translate dataset based on the data from statmt.org.

Versions exists for the different years using a combination of multiple data
sources. The base `wmt_translate` allows you to create your own config to choose
your own data/language pair by creating a custom `datasets.translate.wmt.WmtConfig`.


config = datasets.wmt.WmtConfig(
    version="0.0.1",
    language_pair=("fr", "de"),
    subsets={
        datasets.Split.TRAIN: ["commoncrawl_frde"],
        datasets.Split.VALIDATION: ["euelections_dev2019"],
    },
)
builder = datasets.builder("wmt_translate", config=config)

• ライセンス: 不明なライセンス
• バージョン: 1.0.0
• 分割:

スプリット	例
'test'	3981
'train'	25160346
'validation'	2001年

• 特徴：

{
    "translation": {
        "languages": [
            "zh",
            "en"
        ],
        "id": null,
        "_type": "Translation"
    }
}