lm1b, lm1b

• Descriptif :

Un corpus de référence à utiliser pour mesurer les progrès de la modélisation statistique du langage. Cela a près d'un milliard de mots dans les données de formation.

• Documentation complémentaire : Explorer sur Papers With Code

• Page d'accueil : http://www.statmt.org/lm-benchmark/

• Code source : tfds.datasets.lm1b.Builder

• Versions :

  • 1.1.0 (par défaut) : aucune note de version.

• Taille du téléchargement : 1.67 GiB

• Taille du jeu de données : 4.40 GiB

• Mise en cache automatique ( documentation ): Non

• Fractionnements :

Diviser	Exemples
'test'	306 688
'train'	30 301 028

• Structure des fonctionnalités :

FeaturesDict({
    'text': Text(shape=(), dtype=string),
})

• Documentation des fonctionnalités :

Caractéristique	Classer	Forme	Dtype	La description
	FonctionnalitésDict
texte	Texte		chaîne de caractères

• Touches supervisées (Voir as_supervised doc ): ('text', 'text')

• Figure ( tfds.show_examples ) : non pris en charge.

• Exemples ( tfds.as_dataframe ):

• Citation :

@article{DBLP:journals/corr/ChelbaMSGBK13,
  author    = {Ciprian Chelba and
               Tomas Mikolov and
               Mike Schuster and
               Qi Ge and
               Thorsten Brants and
               Phillipp Koehn},
  title     = {One Billion Word Benchmark for Measuring Progress in Statistical Language
               Modeling},
  journal   = {CoRR},
  volume    = {abs/1312.3005},
  year      = {2013},
  url       = {http://arxiv.org/abs/1312.3005},
  archivePrefix = {arXiv},
  eprint    = {1312.3005},
  timestamp = {Mon, 13 Aug 2018 16:46:16 +0200},
  biburl    = {https://dblp.org/rec/bib/journals/corr/ChelbaMSGBK13},
  bibsource = {dblp computer science bibliography, https://dblp.org}
}