wmt16_translate

  • Açıklama :

Veri kümesini statmt.org'daki verilere göre çevirin.

Sürümler, birden çok veri kaynağının bir kombinasyonu kullanılarak farklı yıllar için mevcuttur. Temel wmt_translate , özel bir tfds.translate.wmt.WmtConfig oluşturarak kendi veri/dil çiftinizi seçmek için kendi yapılandırmanızı oluşturmanıza olanak tanır.

config = tfds.translate.wmt.WmtConfig(
    version="0.0.1",
    language_pair=("fr", "de"),
    subsets={
        tfds.Split.TRAIN: ["commoncrawl_frde"],
        tfds.Split.VALIDATION: ["euelections_dev2019"],
    },
)
builder = tfds.builder("wmt_translate", config=config)

  • Ek Belgeler : Belgeleri Keşfedin

  • Ana Sayfa : http://www.statmt.org/wmt16/translation-task.html

  • Kaynak kodu : tfds.translate.Wmt16Translate

  • sürümler :

    • 1.0.0 (varsayılan): Sürüm notu yok.

  • Manuel indirme talimatları : Bu veri kümesi, kaynak verileri manuel olarak download_config.manual_dir içine download_config.manual_dir gerektirir (varsayılan olarak ~/tensorflow_datasets/downloads/manual/ ):
    Buradaki wmt yapılandırmalarından bazıları manuel indirme gerektirir. İndirilmesi gereken tam yolu (ve dosya adını) görmek için lütfen wmt.py'ye bakın.

  • Şekil ( tfds.show_examples ): Desteklenmiyor.

  • Alıntı :

@InProceedings{bojar-EtAl:2016:WMT1,
  author    = {Bojar, Ond
{r}ej  and  Chatterjee, Rajen  and  Federmann, Christian  and  Graham, Yvette  and  Haddow, Barry  and  Huck, Matthias  and  Jimeno Yepes, Antonio  and  Koehn, Philipp  and  Logacheva, Varvara  and  Monz, Christof  and  Negri, Matteo  and  Neveol, Aurelie  and  Neves, Mariana  and  Popel, Martin  and  Post, Matt  and  Rubino, Raphael  and  Scarton, Carolina  and  Specia, Lucia  and  Turchi, Marco  and  Verspoor, Karin  and  Zampieri, Marcos},
  title     = {Findings of the 2016 Conference on Machine Translation},
  booktitle = {Proceedings of the First Conference on Machine Translation},
  month     = {August},
  year      = {2016},
  address   = {Berlin, Germany},
  publisher = {Association for Computational Linguistics},
  pages     = {131--198},
  url       = {http://www.aclweb.org/anthology/W/W16/W16-2301}
}

wmt16_translate/cs-en (varsayılan yapılandırma)

  • Yapılandırma açıklaması : WMT 2016 cs-en çeviri görevi veri kümesi.

  • İndirme boyutu : 1.57 GiB

  • Veri kümesi boyutu : 7.56 GiB

  • Otomatik önbelleğe alınmış ( belgeleme ): Hayır

  • bölmeler :

Bölmek örnekler
'test' 2.999
'train' 52.335.651
'validation' 2.656
  • Özellik yapısı :
Translation({
    'cs': Text(shape=(), dtype=string),
    'en': Text(shape=(), dtype=string),
})
  • Özellik belgeleri :
Özellik Sınıf Şekil Dtipi Tanım
Tercüme
cs Metin sicim
tr Metin sicim

wmt16_translate/de-en

  • Yapılandırma açıklaması : WMT 2016 de-en çeviri görevi veri kümesi.

  • İndirme boyutu : 1.57 GiB

  • Veri kümesi boyutu : 1.38 GiB

  • Otomatik önbelleğe alınmış ( belgeleme ): Hayır

  • bölmeler :

Bölmek örnekler
'test' 2.999
'train' 4.548.885
'validation' 2.169
  • Özellik yapısı :
Translation({
    'de': Text(shape=(), dtype=string),
    'en': Text(shape=(), dtype=string),
})
  • Özellik belgeleri :
Özellik Sınıf Şekil Dtipi Tanım
Tercüme
de Metin sicim
tr Metin sicim

wmt16_translate/fi-tr

  • Yapılandırma açıklaması : WMT 2016 fi-en çeviri görevi veri kümesi.

  • İndirme boyutu : 260.51 MiB

  • Veri kümesi boyutu : 624.31 MiB

  • Otomatik önbelleğe alınmış ( belgeleme ): Hayır

  • bölmeler :

Bölmek örnekler
'test' 6.000
'train' 2.073.394
'validation' 1.370
  • Özellik yapısı :
Translation({
    'en': Text(shape=(), dtype=string),
    'fi': Text(shape=(), dtype=string),
})
  • Özellik belgeleri :
Özellik Sınıf Şekil Dtipi Tanım
Tercüme
tr Metin sicim
fi Metin sicim

wmt16_translate/ro-en

  • Yapılandırma açıklaması : WMT 2016 ro-en çeviri görevi veri kümesi.

  • İndirme boyutu : 273.83 MiB

  • Veri kümesi boyutu : 194.35 MiB

  • Otomatik önbelleğe alınmış ( belgeler ): Evet (test, doğrulama), Yalnızca shuffle_files=False (tren) olduğunda

  • bölmeler :

Bölmek örnekler
'test' 1.999
'train' 610.320
'validation' 1.999
  • Özellik yapısı :
Translation({
    'en': Text(shape=(), dtype=string),
    'ro': Text(shape=(), dtype=string),
})
  • Özellik belgeleri :
Özellik Sınıf Şekil Dtipi Tanım
Tercüme
tr Metin sicim
ro Metin sicim

wmt16_translate/ru-tr

  • Yapılandırma açıklaması : WMT 2016 ru-en çeviri görevi veri kümesi.

  • İndirme boyutu : 993.38 MiB

  • Veri kümesi boyutu : 854.44 MiB

  • Otomatik önbelleğe alınmış ( belgeleme ): Hayır

  • bölmeler :

Bölmek örnekler
'test' 2.998
'train' 2.516.162
'validation' 2.818
  • Özellik yapısı :
Translation({
    'en': Text(shape=(), dtype=string),
    'ru': Text(shape=(), dtype=string),
})
  • Özellik belgeleri :
Özellik Sınıf Şekil Dtipi Tanım
Tercüme
tr Metin sicim
ru Metin sicim

wmt16_translate/tr-tr

  • Yapılandırma açıklaması : WMT 2016 tr-en çeviri görevi veri kümesi.

  • İndirme boyutu : 59.32 MiB

  • Veri kümesi boyutu : 63.21 MiB

  • Otomatik önbelleğe alınmış ( belgeleme ): Evet

  • bölmeler :

Bölmek örnekler
'test' 3.000
'train' 205.756
'validation' 1.001
  • Özellik yapısı :
Translation({
    'en': Text(shape=(), dtype=string),
    'tr': Text(shape=(), dtype=string),
})
  • Özellik belgeleri :
Özellik Sınıf Şekil Dtipi Tanım
Tercüme
tr Metin sicim
tr Metin sicim