- Descripción :
Traduzca el conjunto de datos según los datos de statmt.org.
Existen versiones para los diferentes años utilizando una combinación de múltiples fuentes de datos. La base wmt_translate
le permite crear su propia configuración para elegir su propio par de datos/idioma creando un tfds.translate.wmt.WmtConfig
personalizado.
config = tfds.translate.wmt.WmtConfig(
version="0.0.1",
language_pair=("fr", "de"),
subsets={
tfds.Split.TRAIN: ["commoncrawl_frde"],
tfds.Split.VALIDATION: ["euelections_dev2019"],
},
)
builder = tfds.builder("wmt_translate", config=config)
Página de inicio : http://www.statmt.org/wmt13/translation-task.html
Código fuente :
tfds.translate.Wmt13Translate
Versiones :
-
1.0.0
(predeterminado): Sin notas de la versión.
-
Instrucciones de descarga manual : este conjunto de datos requiere que descargue los datos de origen manualmente en
download_config.manual_dir
(el valor predeterminado es~/tensorflow_datasets/downloads/manual/
):
Algunas de las configuraciones de wmt aquí requieren una descarga manual. Mire en wmt.py para ver la ruta exacta (y el nombre del archivo) que debe descargarse.Almacenamiento automático en caché ( documentación ): No
Figura ( tfds.show_examples ): no compatible.
Cita :
@InProceedings{bojar-EtAl:2013:WMT,
author = {Bojar, Ondrej and Buck, Christian and Callison-Burch, Chris and Federmann, Christian and Haddow, Barry and Koehn, Philipp and Monz, Christof and Post, Matt and Soricut, Radu and Specia, Lucia},
title = {Findings of the 2013 {Workshop on Statistical Machine Translation} },
booktitle = {Proceedings of the Eighth Workshop on Statistical Machine Translation},
month = {August},
year = {2013},
address = {Sofia, Bulgaria},
publisher = {Association for Computational Linguistics},
pages = {1--44},
url = {http://www.aclweb.org/anthology/W13-2201}
}
wmt13_translate/cs-en (configuración predeterminada)
Descripción de la configuración : conjunto de datos de la tarea de traducción cs-en de WMT 2013.
Tamaño de descarga :
1.59 GiB
Tamaño del conjunto de datos :
2.89 GiB
Divisiones :
Separar | Ejemplos |
---|---|
'test' | 3,000 |
'train' | 15,780,759 |
'validation' | 13,573 |
- Estructura de características :
Translation({
'cs': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- Documentación de características :
Rasgo | Clase | Forma | Tipo D | Descripción |
---|---|---|---|---|
Traducción | ||||
cs | Texto | cuerda | ||
es | Texto | cuerda |
Teclas supervisadas (ver
as_supervised
doc ):('cs', 'en')
Ejemplos ( tfds.as_dataframe ):
wmt13_translate/de-es
Descripción de la configuración : conjunto de datos de la tarea de traducción de-en de WMT 2013.
Tamaño de descarga :
1.59 GiB
Tamaño del conjunto de datos :
1.36 GiB
Divisiones :
Separar | Ejemplos |
---|---|
'test' | 3,000 |
'train' | 4,485,758 |
'validation' | 13,573 |
- Estructura de características :
Translation({
'de': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- Documentación de características :
Rasgo | Clase | Forma | Tipo D | Descripción |
---|---|---|---|---|
Traducción | ||||
Delaware | Texto | cuerda | ||
es | Texto | cuerda |
Teclas supervisadas (Ver
as_supervised
doc ):('de', 'en')
Ejemplos ( tfds.as_dataframe ):
wmt13_translate/fr-es
Descripción de la configuración : conjunto de datos de la tarea de traducción fr-en de WMT 2013.
Tamaño de descarga :
6.21 GiB
Tamaño del conjunto de datos :
14.64 GiB
Divisiones :
Separar | Ejemplos |
---|---|
'test' | 3,000 |
'train' | 40,810,860 |
'validation' | 13,573 |
- Estructura de características :
Translation({
'en': Text(shape=(), dtype=string),
'fr': Text(shape=(), dtype=string),
})
- Documentación de características :
Rasgo | Clase | Forma | Tipo D | Descripción |
---|---|---|---|---|
Traducción | ||||
es | Texto | cuerda | ||
es | Texto | cuerda |
Teclas supervisadas (ver
as_supervised
doc ):('fr', 'en')
Ejemplos ( tfds.as_dataframe ):
wmt13_translate/es-es
Descripción de la configuración : conjunto de datos de tareas de traducción WMT 2013 es-en.
Tamaño de descarga :
3.79 GiB
Tamaño del conjunto de datos :
5.24 GiB
Divisiones :
Separar | Ejemplos |
---|---|
'test' | 3,000 |
'train' | 15,176,790 |
'validation' | 13,573 |
- Estructura de características :
Translation({
'en': Text(shape=(), dtype=string),
'es': Text(shape=(), dtype=string),
})
- Documentación de características :
Rasgo | Clase | Forma | Tipo D | Descripción |
---|---|---|---|---|
Traducción | ||||
es | Texto | cuerda | ||
es | Texto | cuerda |
Teclas supervisadas (Ver
as_supervised
doc ):('es', 'en')
Ejemplos ( tfds.as_dataframe ):
wmt13_translate/ru-es
Descripción de la configuración : conjunto de datos de la tarea de traducción ru-en de WMT 2013.
Tamaño de descarga :
1010.20 MiB
Tamaño del conjunto de datos :
833.67 MiB
Divisiones :
Separar | Ejemplos |
---|---|
'test' | 3,000 |
'train' | 2,471,670 |
'validation' | 3,003 |
- Estructura de características :
Translation({
'en': Text(shape=(), dtype=string),
'ru': Text(shape=(), dtype=string),
})
- Documentación de características :
Rasgo | Clase | Forma | Tipo D | Descripción |
---|---|---|---|---|
Traducción | ||||
es | Texto | cuerda | ||
tu | Texto | cuerda |
Teclas supervisadas (ver
as_supervised
doc ):('ru', 'en')
Ejemplos ( tfds.as_dataframe ):