lm1b, lm1b

  • opis :

Korpus wzorcowy do mierzenia postępów w statystycznym modelowaniu języka. Ma to prawie miliard słów w danych treningowych.

Rozdzielać Przykłady
'test' 306688
'train' 30 301 028
  • Struktura funkcji :
FeaturesDict({
   
'text': Text(shape=(), dtype=string),
})
  • Dokumentacja funkcji :
Funkcja Klasa Kształt Typ D Opis
FunkcjeDict
tekst Tekst strunowy
  • Cytat :
@article{DBLP:journals/corr/ChelbaMSGBK13,
  author    
= {Ciprian Chelba and
               
Tomas Mikolov and
               
Mike Schuster and
               
Qi Ge and
               
Thorsten Brants and
               
Phillipp Koehn},
  title    
= {One Billion Word Benchmark for Measuring Progress in Statistical Language
               
Modeling},
  journal  
= {CoRR},
  volume    
= {abs/1312.3005},
  year      
= {2013},
  url      
= {http://arxiv.org/abs/1312.3005},
  archivePrefix
= {arXiv},
  eprint    
= {1312.3005},
  timestamp
= {Mon, 13 Aug 2018 16:46:16 +0200},
  biburl    
= {https://dblp.org/rec/bib/journals/corr/ChelbaMSGBK13},
  bibsource
= {dblp computer science bibliography, https://dblp.org}
}