- Deskripsi :
Terjemahkan kumpulan data berdasarkan data dari statmt.org.
Versi ada untuk tahun yang berbeda menggunakan kombinasi beberapa sumber data. Basis wmt_translate
memungkinkan Anda membuat konfigurasi sendiri untuk memilih pasangan data/bahasa Anda sendiri dengan membuat tfds.translate.wmt.WmtConfig
khusus.
config = tfds.translate.wmt.WmtConfig(
version="0.0.1",
language_pair=("fr", "de"),
subsets={
tfds.Split.TRAIN: ["commoncrawl_frde"],
tfds.Split.VALIDATION: ["euelections_dev2019"],
},
)
builder = tfds.builder("wmt_translate", config=config)
Dokumentasi Tambahan : Jelajahi di Makalah Dengan Kode
Kode sumber :
tfds.translate.Wmt15Translate
Versi :
-
1.0.0
(default): Tidak ada catatan rilis.
-
Instruksi pengunduhan manual : Kumpulan data ini mengharuskan Anda mengunduh data sumber secara manual ke
download_config.manual_dir
(default ke~/tensorflow_datasets/downloads/manual/
):
Beberapa konfigurasi wmt di sini, memerlukan unduhan manual. Silakan lihat wmt.py untuk melihat jalur yang tepat (dan nama file) yang harus diunduh.Di-cache otomatis ( dokumentasi ): Tidak
Gambar ( tfds.show_examples ): Tidak didukung.
Kutipan :
@InProceedings{bojar-EtAl:2015:WMT,
author = {Bojar, Ond
{r}ej and Chatterjee, Rajen and Federmann, Christian and Haddow, Barry and Huck, Matthias and Hokamp, Chris and Koehn, Philipp and Logacheva, Varvara and Monz, Christof and Negri, Matteo and Post, Matt and Scarton, Carolina and Specia, Lucia and Turchi, Marco},
title = {Findings of the 2015 Workshop on Statistical Machine Translation},
booktitle = {Proceedings of the Tenth Workshop on Statistical Machine Translation},
month = {September},
year = {2015},
address = {Lisbon, Portugal},
publisher = {Association for Computational Linguistics},
pages = {1--46},
url = {http://aclweb.org/anthology/W15-3001}
}
wmt15_translate/cs-en (konfigurasi default)
Deskripsi konfigurasi : WMT 2015 cs-en translation task dataset.
Ukuran unduhan :
1.62 GiB
Ukuran dataset :
2.89 GiB
Perpecahan :
Membelah | Contoh |
---|---|
'test' | 2.656 |
'train' | 15.793.126 |
'validation' | 3.003 |
- Struktur fitur :
Translation({
'cs': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- Dokumentasi fitur :
Fitur | Kelas | Membentuk | Dtype | Keterangan |
---|---|---|---|---|
Terjemahan | ||||
cs | Teks | rangkaian | ||
en | Teks | rangkaian |
Kunci yang diawasi (Lihat
as_supervised
doc ):('cs', 'en')
Contoh ( tfds.as_dataframe ):
wmt15_translate/de-en
Deskripsi konfigurasi : WMT 2015 de-en translation task dataset.
Ukuran unduhan :
1.62 GiB
Ukuran dataset :
1.37 GiB
Perpecahan :
Membelah | Contoh |
---|---|
'test' | 2.169 |
'train' | 4.522.998 |
'validation' | 3.003 |
- Struktur fitur :
Translation({
'de': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- Dokumentasi fitur :
Fitur | Kelas | Membentuk | Dtype | Keterangan |
---|---|---|---|---|
Terjemahan | ||||
de | Teks | rangkaian | ||
en | Teks | rangkaian |
Kunci yang diawasi (Lihat
as_supervised
doc ):('de', 'en')
Contoh ( tfds.as_dataframe ):
wmt15_translate/fi-en
Deskripsi konfigurasi : WMT 2015 fi-en translation task dataset.
Ukuran unduhan :
260.51 MiB
Ukuran dataset :
623.22 MiB
Perpecahan :
Membelah | Contoh |
---|---|
'test' | 1.370 |
'train' | 2.073.394 |
'validation' | 1.500 |
- Struktur fitur :
Translation({
'en': Text(shape=(), dtype=string),
'fi': Text(shape=(), dtype=string),
})
- Dokumentasi fitur :
Fitur | Kelas | Membentuk | Dtype | Keterangan |
---|---|---|---|---|
Terjemahan | ||||
en | Teks | rangkaian | ||
fi | Teks | rangkaian |
Kunci yang diawasi (Lihat
as_supervised
doc ):('fi', 'en')
Contoh ( tfds.as_dataframe ):
wmt15_translate/fr-en
Deskripsi konfigurasi : WMT 2015 fr-en translation task dataset.
Ukuran unduhan :
6.24 GiB
Ukuran dataset :
14.65 GiB
Perpecahan :
Membelah | Contoh |
---|---|
'test' | 1.500 |
'train' | 40.853.298 |
'validation' | 4.503 |
- Struktur fitur :
Translation({
'en': Text(shape=(), dtype=string),
'fr': Text(shape=(), dtype=string),
})
- Dokumentasi fitur :
Fitur | Kelas | Membentuk | Dtype | Keterangan |
---|---|---|---|---|
Terjemahan | ||||
en | Teks | rangkaian | ||
fr | Teks | rangkaian |
Kunci yang diawasi (Lihat
as_supervised
doc ):('fr', 'en')
Contoh ( tfds.as_dataframe ):
wmt15_translate/ru-en
Deskripsi konfigurasi : WMT 2015 ru-en translation task dataset.
Ukuran unduhan :
1.02 GiB
Ukuran dataset :
843.90 MiB
Perpecahan :
Membelah | Contoh |
---|---|
'test' | 2.818 |
'train' | 2.495.081 |
'validation' | 3.003 |
- Struktur fitur :
Translation({
'en': Text(shape=(), dtype=string),
'ru': Text(shape=(), dtype=string),
})
- Dokumentasi fitur :
Fitur | Kelas | Membentuk | Dtype | Keterangan |
---|---|---|---|---|
Terjemahan | ||||
en | Teks | rangkaian | ||
ru | Teks | rangkaian |
Kunci yang diawasi (Lihat
as_supervised
doc ):('ru', 'en')
Contoh ( tfds.as_dataframe ):