- תיאור :
BEIR הוא מדד הטרוגני המכיל משימות IR מגוונות. זה גם מספק מסגרת משותפת וקלה להערכת מודלים של אחזור מבוססי NLP שלך בתוך ה-benchmark.
תיעוד נוסף : חקור על ניירות עם קוד
דף הבית : https://github.com/beir-cellar/beir
קוד מקור :
tfds.datasets.beir.Builder
גרסאות :
-
1.0.0
(ברירת מחדל): שחרור ראשוני.
-
מבנה תכונה :
FeaturesDict({
'passage': Text(shape=(), dtype=string),
'passage_id': Text(shape=(), dtype=string),
'passage_metadata': Text(shape=(), dtype=string),
'query': Text(shape=(), dtype=string),
'query_id': Text(shape=(), dtype=string),
'query_metadata': Text(shape=(), dtype=string),
'score': float32,
})
- תיעוד תכונה :
תכונה | מעמד | צוּרָה | Dtype | תיאור |
---|---|---|---|---|
FeaturesDict | ||||
מַעֲבָר | טֶקסט | חוּט | ||
passage_id | טֶקסט | חוּט | ||
passage_metadata | טֶקסט | חוּט | ||
שאילתא | טֶקסט | חוּט | ||
query_id | טֶקסט | חוּט | ||
query_metadata | טֶקסט | חוּט | ||
ציון | מוֹתֵחַ | לצוף32 |
מפתחות בפיקוח (ראה
as_supervised
doc ):None
איור ( tfds.show_examples ): לא נתמך.
ציטוט :
@inproceedings{
thakur2021beir,
title={ {BEIR}: A Heterogeneous Benchmark for Zero-shot Evaluation of Information Retrieval Models},
author={Nandan Thakur and Nils Reimers and Andreas R{"u}ckl{'e} and Abhishek Srivastava and Iryna Gurevych},
booktitle={Thirty-fifth Conference on Neural Information Processing Systems Datasets and Benchmarks Track (Round 2)},
year={2021},
url={https://openreview.net/forum?id=wCu6T5xFjeJ}
}
beir/msmarco (תצורת ברירת המחדל)
גודל הורדה :
1.01 GiB
גודל מערך נתונים :
4.53 GiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 8,841,823 |
'query' | 509,962 |
'test' | 9,139 |
'train' | 516,472 |
'validation' | 7,433 |
- דוגמאות ( tfds.as_dataframe ):
beir/trec_covid
גודל הורדה :
70.45 MiB
גודל מערך נתונים :
292.04 MiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 171,332 |
'query' | 50 |
'test' | 35,480 |
- דוגמאות ( tfds.as_dataframe ):
beir/nfcorpus
גודל הורדה :
2.34 MiB
גודל ערכת נתונים :
24.94 MiB
שמור אוטומטי במטמון ( תיעוד ): כן
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 3,633 |
'query' | 3,237 |
'test' | 3,128 |
'train' | 3,588 |
'validation' | 3,119 |
- דוגמאות ( tfds.as_dataframe ):
beir/nq
גודל הורדה :
475.22 MiB
גודל מערך נתונים :
1.66 GiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 2,681,468 |
'query' | 3,452 |
'test' | 4,201 |
- דוגמאות ( tfds.as_dataframe ):
beir/hotpotqa
גודל הורדה :
623.73 MiB
גודל ערכת נתונים :
2.64 GiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 5,233,329 |
'query' | 97,852 |
'test' | 13,783 |
'train' | 101,307 |
'validation' | 10,335 |
- דוגמאות ( tfds.as_dataframe ):
בייר/פיקה
גודל הורדה :
17.12 MiB
גודל מערך נתונים :
73.39 MiB
שמור אוטומטי במטמון ( תיעוד ): כן
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 57,638 |
'query' | 6,648 |
'test' | 1,706 |
'train' | 14,166 |
'validation' | 1,238 |
- דוגמאות ( tfds.as_dataframe ):
בייר/ארגואנה
גודל הורדה :
3.60 MiB
גודל מערך נתונים :
15.08 MiB
שמור אוטומטי במטמון ( תיעוד ): כן
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 8,674 |
'query' | 1,406 |
'test' | 1,401 |
- דוגמאות ( tfds.as_dataframe ):
beir/webis_touche2020
גודל הורדה :
216.61 MiB
גודל מערך נתונים :
747.57 MiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 382,545 |
'query' | 49 |
'test' | 2,099 |
- דוגמאות ( tfds.as_dataframe ):
beir/cqadupstack.android
גודל הורדה :
4.98 GiB
גודל מערך נתונים :
883.49 MiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 22,998 |
'query' | 699 |
'test' | 1,696 |
- דוגמאות ( tfds.as_dataframe ):
beir/cqadupstack.english
גודל הורדה :
4.98 GiB
גודל מערך נתונים :
3.78 GiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 40,221 |
'query' | 1,570 |
'test' | 3,765 |
- דוגמאות ( tfds.as_dataframe ):
beir/cqadupstack.gaming
גודל הורדה :
4.98 GiB
גודל ערכת נתונים :
2.64 GiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 45,301 |
'query' | 1,595 |
'test' | 2,263 |
- דוגמאות ( tfds.as_dataframe ):
beir/cqadupstack.gis
גודל הורדה :
4.98 GiB
גודל מערך נתונים :
1.47 GiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 37,637 |
'query' | 885 |
'test' | 1,114 |
- דוגמאות ( tfds.as_dataframe ):
beir/cqadupstack.mathematica
גודל הורדה :
4.98 GiB
גודל מערך נתונים :
1.58 GiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 16,705 |
'query' | 804 |
'test' | 1,358 |
- דוגמאות ( tfds.as_dataframe ):
beir/cqadupstack.physics
גודל הורדה :
4.98 GiB
גודל מערך נתונים :
2.02 GiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 38,316 |
'query' | 1,039 |
'test' | 1,933 |
- דוגמאות ( tfds.as_dataframe ):
beir/cqadupstack.programmers
גודל הורדה :
4.98 GiB
גודל מערך נתונים :
2.14 GiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 32,176 |
'query' | 876 |
'test' | 1,675 |
- דוגמאות ( tfds.as_dataframe ):
beir/cqadupstack.stats
גודל הורדה :
4.98 GiB
גודל מערך נתונים :
941.07 MiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 42,269 |
'query' | 652 |
'test' | 913 |
- דוגמאות ( tfds.as_dataframe ):
beir/cqadupstack.tex
גודל הורדה :
4.98 GiB
גודל מערך נתונים :
21.75 GiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 68,184 |
'query' | 2,906 |
'test' | 5,154 |
- דוגמאות ( tfds.as_dataframe ):
beir/cqadupstack.unix
גודל הורדה :
4.98 GiB
גודל מערך נתונים :
2.04 GiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 47,382 |
'query' | 1,072 |
'test' | 1,693 |
- דוגמאות ( tfds.as_dataframe ):
beir/cqadupstack.webmasters
גודל הורדה :
4.98 GiB
גודל ערכת נתונים:
650.08 MiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 17,405 |
'query' | 506 |
'test' | 1,395 |
- דוגמאות ( tfds.as_dataframe ):
beir/cqadupstack.wordpress
גודל הורדה :
4.98 GiB
גודל ערכת נתונים:
726.15 MiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 48,605 |
'query' | 541 |
'test' | 744 |
- דוגמאות ( tfds.as_dataframe ):
beir/quora
גודל הורדה :
15.12 MiB
גודל מערך נתונים :
121.33 MiB
שמור אוטומטי במטמון ( תיעוד ): כן
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 522,931 |
'query' | 15,000 |
'test' | 15,675 |
'validation' | 7,626 |
- דוגמאות ( tfds.as_dataframe ):
beir/dbpedia_entity
גודל הורדה :
609.67 MiB
גודל מערך נתונים :
2.47 GiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 4,635,922 |
'query' | 467 |
'test' | 40,724 |
'validation' | 5,658 |
- דוגמאות ( tfds.as_dataframe ):
beir/scidocs
גודל הורדה :
135.87 MiB
גודל ערכת נתונים:
573.04 MiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 25,657 |
'query' | 1,000 |
'test' | 25,657 |
- דוגמאות ( tfds.as_dataframe ):
בייר/חום
גודל הורדה :
1.15 GiB
גודל מערך נתונים :
3.70 GiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 5,416,568 |
'query' | 123,142 |
'test' | 1,499 |
'train' | 12,547 |
'validation' | 1,460 |
- דוגמאות ( tfds.as_dataframe ):
בייר/קדחת_אקלים
גודל הורדה :
1.14 GiB
גודל מערך נתונים :
3.64 GiB
שמירה אוטומטית במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 5,416,593 |
'query' | 1,535 |
'test' | 1,344 |
- דוגמאות ( tfds.as_dataframe ):
beir/scifact
גודל הורדה :
2.69 MiB
גודל ערכת נתונים :
10.16 MiB
שמור אוטומטי במטמון ( תיעוד ): כן
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'passage' | 5,183 |
'query' | 1,109 |
'test' | 283 |
'train' | 565 |
- דוגמאות ( tfds.as_dataframe ):