- Descrizione :
Traduci il set di dati in base ai dati di statmt.org.
Esistono versioni per i diversi anni utilizzando una combinazione di più fonti di dati. La base wmt_translate
ti consente di creare la tua configurazione per scegliere la tua coppia dati/lingua creando un tfds.translate.wmt.WmtConfig
personalizzato.
config = tfds.translate.wmt.WmtConfig(
version="0.0.1",
language_pair=("fr", "de"),
subsets={
tfds.Split.TRAIN: ["commoncrawl_frde"],
tfds.Split.VALIDATION: ["euelections_dev2019"],
},
)
builder = tfds.builder("wmt_translate", config=config)
Pagina iniziale : http://www.statmt.org/wmt13/translation-task.html
Codice sorgente :
tfds.translate.Wmt13Translate
Versioni :
-
1.0.0
(impostazione predefinita): nessuna nota di rilascio.
-
Istruzioni per il download manuale : questo set di dati richiede di scaricare manualmente i dati di origine in
download_config.manual_dir
(il valore predefinito~/tensorflow_datasets/downloads/manual/
):
Alcune delle configurazioni wmt qui richiedono un download manuale. Si prega di guardare in wmt.py per vedere il percorso esatto (e il nome del file) che deve essere scaricato.Cache automatica ( documentazione ): No
Figura ( tfds.show_examples ): non supportato.
Citazione :
@InProceedings{bojar-EtAl:2013:WMT,
author = {Bojar, Ondrej and Buck, Christian and Callison-Burch, Chris and Federmann, Christian and Haddow, Barry and Koehn, Philipp and Monz, Christof and Post, Matt and Soricut, Radu and Specia, Lucia},
title = {Findings of the 2013 {Workshop on Statistical Machine Translation} },
booktitle = {Proceedings of the Eighth Workshop on Statistical Machine Translation},
month = {August},
year = {2013},
address = {Sofia, Bulgaria},
publisher = {Association for Computational Linguistics},
pages = {1--44},
url = {http://www.aclweb.org/anthology/W13-2201}
}
wmt13_translate/cs-en (configurazione predefinita)
Descrizione della configurazione : set di dati dell'attività di traduzione cs-en WMT 2013.
Dimensione del download :
1.59 GiB
Dimensione del set di dati:
2.89 GiB
Divisioni :
Diviso | Esempi |
---|---|
'test' | 3.000 |
'train' | 15.780.759 |
'validation' | 13.573 |
- Struttura delle caratteristiche :
Translation({
'cs': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
Traduzione | ||||
cs | Testo | corda | ||
it | Testo | corda |
Chiavi supervisionate (vedi
as_supervised
doc ):('cs', 'en')
Esempi ( tfds.as_dataframe ):
wmt13_translate/de-en
Descrizione della configurazione : set di dati dell'attività di traduzione de-en WMT 2013.
Dimensione del download :
1.59 GiB
Dimensione del set di dati:
1.36 GiB
Divisioni :
Diviso | Esempi |
---|---|
'test' | 3.000 |
'train' | 4.485.758 |
'validation' | 13.573 |
- Struttura delle caratteristiche :
Translation({
'de': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
Traduzione | ||||
de | Testo | corda | ||
it | Testo | corda |
Chiavi supervisionate (Vedi
as_supervised
doc ):('de', 'en')
Esempi ( tfds.as_dataframe ):
wmt13_translate/fr-en
Descrizione della configurazione : set di dati dell'attività di traduzione fr-en WMT 2013.
Dimensione del download :
6.21 GiB
Dimensione del set di dati:
14.64 GiB
Divisioni :
Diviso | Esempi |
---|---|
'test' | 3.000 |
'train' | 40.810.860 |
'validation' | 13.573 |
- Struttura delle caratteristiche :
Translation({
'en': Text(shape=(), dtype=string),
'fr': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
Traduzione | ||||
it | Testo | corda | ||
fr | Testo | corda |
Chiavi supervisionate (Vedi
as_supervised
doc ):('fr', 'en')
Esempi ( tfds.as_dataframe ):
wmt13_translate/es-en
Descrizione della configurazione : set di dati dell'attività di traduzione WMT 2013 es-en.
Dimensioni del download :
3.79 GiB
Dimensione del set di dati:
5.24 GiB
Divisioni :
Diviso | Esempi |
---|---|
'test' | 3.000 |
'train' | 15.176.790 |
'validation' | 13.573 |
- Struttura delle caratteristiche :
Translation({
'en': Text(shape=(), dtype=string),
'es': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
Traduzione | ||||
it | Testo | corda | ||
es | Testo | corda |
Chiavi supervisionate (vedi
as_supervised
doc ):('es', 'en')
Esempi ( tfds.as_dataframe ):
wmt13_translate/ru-it
Descrizione della configurazione : set di dati dell'attività di traduzione ru-en WMT 2013.
Dimensione del download :
1010.20 MiB
Dimensione del set di dati:
833.67 MiB
Divisioni :
Diviso | Esempi |
---|---|
'test' | 3.000 |
'train' | 2.471.670 |
'validation' | 3.003 |
- Struttura delle caratteristiche :
Translation({
'en': Text(shape=(), dtype=string),
'ru': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
Traduzione | ||||
it | Testo | corda | ||
ru | Testo | corda |
Chiavi supervisionate (vedi
as_supervised
doc ):('ru', 'en')
Esempi ( tfds.as_dataframe ):