gigaword

  • Deskripsi :

Pembuatan headline pada korpus artikel pasang dari Gigaword yang terdiri dari sekitar 4 juta artikel. Gunakan 'org_data' yang disediakan oleh https://github.com/microsoft/unilm/ yang identik dengan https://github.com/harvardnlp/sent-summary tetapi dengan format yang lebih baik.

Ada dua fitur: - dokumen: artikel. - ringkasan: judul.

Membelah Contoh
'test' 1.951
'train' 3.803.957
'validation' 189.651
  • Struktur fitur :
FeaturesDict({
   
'document': Text(shape=(), dtype=string),
   
'summary': Text(shape=(), dtype=string),
})
  • Dokumentasi fitur :
Fitur Kelas Membentuk Dtype Keterangan
fiturDict
dokumen Teks rangkaian
ringkasan Teks rangkaian
  • Kutipan :
@article{graff2003english,
  title
={English gigaword},
  author
={Graff, David and Kong, Junbo and Chen, Ke and Maeda, Kazuaki},
  journal
={Linguistic Data Consortium, Philadelphia},
  volume
={4},
  number
={1},
  pages
={34},
  year
={2003}
}

@article{Rush_2015,
   title
={A Neural Attention Model for Abstractive Sentence Summarization},
   url
={http://dx.doi.org/10.18653/v1/D15-1044},
   DOI
={10.18653/v1/d15-1044},
   journal
={Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing},
   publisher
={Association for Computational Linguistics},
   author
={Rush, Alexander M. and Chopra, Sumit and Weston, Jason},
   year
={2015}
}