베르

• 설명 :

BEIR은 다양한 IR 작업을 포함하는 이기종 벤치마크입니다. 또한 벤치마크 내에서 NLP 기반 검색 모델을 평가하기 위한 공통적이고 쉬운 프레임워크를 제공합니다.

• 추가 문서 : 코드가 있는 논문에서 탐색

• 홈페이지 : https://github.com/beir-cellar/beir

• 소스 코드 : tfds.datasets.beir.Builder

• 버전 :

  • 1.0.0 (기본값): 최초 릴리스.

• 기능 구조 :

FeaturesDict({
    'passage': Text(shape=(), dtype=string),
    'passage_id': Text(shape=(), dtype=string),
    'passage_metadata': Text(shape=(), dtype=string),
    'query': Text(shape=(), dtype=string),
    'query_id': Text(shape=(), dtype=string),
    'query_metadata': Text(shape=(), dtype=string),
    'score': float32,
})

• 기능 문서 :

특징	수업	모양	D타입	설명
	풍모Dict
통로	텍스트		끈
통로 ID	텍스트		끈
통로_메타데이터	텍스트		끈
질문	텍스트		끈
query_id	텍스트		끈
query_metadata	텍스트		끈
점수	텐서		float32

• 감독된 키 ( as_supervised 문서 참조): None

• 그림 ( tfds.show_examples ): 지원되지 않습니다.

• 인용 :

@inproceedings{
    thakur2021beir,
    title={ {BEIR}: A Heterogeneous Benchmark for Zero-shot Evaluation of Information Retrieval Models},
    author={Nandan Thakur and Nils Reimers and Andreas R{"u}ckl{'e} and Abhishek Srivastava and Iryna Gurevych},
    booktitle={Thirty-fifth Conference on Neural Information Processing Systems Datasets and Benchmarks Track (Round 2)},
    year={2021},
    url={https://openreview.net/forum?id=wCu6T5xFjeJ}
}

beir/msmarco(기본 구성)

• 다운로드 크기 : 1.01 GiB

• 데이터세트 크기 : 4.53 GiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	8,841,823
'query'	509,962
'test'	9,139
'train'	516,472
'validation'	7,433

• 예 ( tfds.as_dataframe ):

beir/trec_covid

• 다운로드 크기 : 70.45 MiB

• 데이터 세트 크기 : 292.04 MiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	171,332
'query'	50
'test'	35,480

• 예 ( tfds.as_dataframe ):

베어/nfcorpus

• 다운로드 크기 : 2.34 MiB

• 데이터 세트 크기 : 24.94 MiB

• 자동 캐시 ( 문서 ): 예

• 분할 :

나뉘다	예
'passage'	3,633
'query'	3,237
'test'	3,128
'train'	3,588
'validation'	3,119

• 예 ( tfds.as_dataframe ):

베어/nq

• 다운로드 크기 : 475.22 MiB

• 데이터세트 크기 : 1.66 GiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	2,681,468
'query'	3,452
'test'	4,201

• 예 ( tfds.as_dataframe ):

비어/핫팟카

• 다운로드 크기 : 623.73 MiB

• 데이터세트 크기 : 2.64 GiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	5,233,329
'query'	97,852
'test'	13,783
'train'	101,307
'validation'	10,335

• 예 ( tfds.as_dataframe ):

베어/피카

• 다운로드 크기 : 17.12 MiB

• 데이터 세트 크기 : 73.39 MiB

• 자동 캐시 ( 문서 ): 예

• 분할 :

나뉘다	예
'passage'	57,638
'query'	6,648
'test'	1,706
'train'	14,166
'validation'	1,238

• 예 ( tfds.as_dataframe ):

비어/아르구아나

• 다운로드 크기 : 3.60 MiB

• 데이터 세트 크기 : 15.08 MiB

• 자동 캐시 ( 문서 ): 예

• 분할 :

나뉘다	예
'passage'	8,674
'query'	1,406
'test'	1,401

• 예 ( tfds.as_dataframe ):

beir/webis_touche2020

• 다운로드 크기 : 216.61 MiB

• 데이터 세트 크기 : 747.57 MiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	382,545
'query'	49
'test'	2,099

• 예 ( tfds.as_dataframe ):

beir/cqadupstack.android

• 다운로드 크기 : 4.98 GiB

• 데이터 세트 크기 : 883.49 MiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	22,998
'query'	699
'test'	1,696

• 예 ( tfds.as_dataframe ):

beir/cqadupstack.english

• 다운로드 크기 : 4.98 GiB

• 데이터세트 크기 : 3.78 GiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	40,221
'query'	1,570
'test'	3,765

• 예 ( tfds.as_dataframe ):

beir/cqadupstack.gaming

• 다운로드 크기 : 4.98 GiB

• 데이터세트 크기 : 2.64 GiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	45,301
'query'	1,595
'test'	2,263

• 예 ( tfds.as_dataframe ):

beir/cqadupstack.gis

• 다운로드 크기 : 4.98 GiB

• 데이터세트 크기 : 1.47 GiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	37,637
'query'	885
'test'	1,114

• 예 ( tfds.as_dataframe ):

beir/cqadupstack.mathematica

• 다운로드 크기 : 4.98 GiB

• 데이터세트 크기 : 1.58 GiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	16,705
'query'	804
'test'	1,358

• 예 ( tfds.as_dataframe ):

beir/cqadupstack.physics

• 다운로드 크기 : 4.98 GiB

• 데이터세트 크기 : 2.02 GiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	38,316
'query'	1,039
'test'	1,933

• 예 ( tfds.as_dataframe ):

beir/cqadupstack.programmers

• 다운로드 크기 : 4.98 GiB

• 데이터세트 크기 : 2.14 GiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	32,176
'query'	876
'test'	1,675

• 예 ( tfds.as_dataframe ):

beir/cqadupstack.stats

• 다운로드 크기 : 4.98 GiB

• 데이터 세트 크기 : 941.07 MiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	42,269
'query'	652
'test'	913

• 예 ( tfds.as_dataframe ):

beir/cqadupstack.tex

• 다운로드 크기 : 4.98 GiB

• 데이터세트 크기 : 21.75 GiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	68,184
'query'	2,906
'test'	5,154

• 예 ( tfds.as_dataframe ):

beir/cqadupstack.unix

• 다운로드 크기 : 4.98 GiB

• 데이터세트 크기 : 2.04 GiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	47,382
'query'	1,072
'test'	1,693

• 예 ( tfds.as_dataframe ):

beir/cqadupstack.webmasters

• 다운로드 크기 : 4.98 GiB

• 데이터 세트 크기 : 650.08 MiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	17,405
'query'	506
'test'	1,395

• 예 ( tfds.as_dataframe ):

beir/cqadupstack.wordpress

• 다운로드 크기 : 4.98 GiB

• 데이터 세트 크기 : 726.15 MiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	48,605
'query'	541
'test'	744

• 예 ( tfds.as_dataframe ):

베어/쿼라

• 다운로드 크기 : 15.12 MiB

• 데이터 세트 크기 : 121.33 MiB

• 자동 캐시 ( 문서 ): 예

• 분할 :

나뉘다	예
'passage'	522,931
'query'	15,000
'test'	15,675
'validation'	7,626

• 예 ( tfds.as_dataframe ):

beir/dbpedia_entity

• 다운로드 크기 : 609.67 MiB

• 데이터세트 크기 : 2.47 GiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	4,635,922
'query'	467
'test'	40,724
'validation'	5,658

• 예 ( tfds.as_dataframe ):

beir/scidocs

• 다운로드 크기 : 135.87 MiB

• 데이터 세트 크기 : 573.04 MiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	25,657
'query'	1,000
'test'	25,657

• 예 ( tfds.as_dataframe ):

맥주/열병

• 다운로드 크기 : 1.15 GiB

• 데이터세트 크기 : 3.70 GiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	5,416,568
'query'	123,142
'test'	1,499
'train'	12,547
'validation'	1,460

• 예 ( tfds.as_dataframe ):

beir/climate_fever

• 다운로드 크기 : 1.14 GiB

• 데이터세트 크기 : 3.64 GiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

나뉘다	예
'passage'	5,416,593
'query'	1,535
'test'	1,344

• 예 ( tfds.as_dataframe ):

베어/사이팩트

• 다운로드 크기 : 2.69 MiB

• 데이터 세트 크기 : 10.16 MiB

• 자동 캐시 ( 문서 ): 예

• 분할 :

나뉘다	예
'passage'	5,183
'query'	1,109
'test'	283
'train'	565

• 예 ( tfds.as_dataframe ):