Использованная литература:
ru
Используйте следующую команду, чтобы загрузить этот набор данных в TFDS:
ds = tfds.load('huggingface:wiki40b/en')
- Описание :
Clean-up text for 40+ Wikipedia languages editions of pages
correspond to entities. The datasets have train/dev/test splits per language.
The dataset is cleaned up by page filtering to remove disambiguation pages,
redirect pages, deleted pages, and non-entity pages. Each example contains the
wikidata id of the entity, and the full Wikipedia article after page processing
that removes non-content sections and structured objects.
- Лицензия : Нет известной лицензии.
- Версия : 1.1.0
- Расколы :
| Расколоть | Примеры |
|---|---|
'test' | 162274 |
'train' | 2926536 |
'validation' | 163597 |
- Функции :
{
"wikidata_id": {
"dtype": "string",
"id": null,
"_type": "Value"
},
"text": {
"dtype": "string",
"id": null,
"_type": "Value"
},
"version_id": {
"dtype": "string",
"id": null,
"_type": "Value"
}
}