reel_toxicity_prompts

  • תיאור :

RealToxicityPrompts: הערכת ניוון רעיל עצבי במודלים של שפה

RealToxicityPrompts הוא קורפוס של הנחיות באנגלית (במיוחד התחלות משפטים) עם רעילות משתנה. הנחיות אלו נועדו להינתן כהקשרים למודל שפה אוטורגרסיבי (כלומר GPT-2) ולשמש להפקת השלמות.

פרטים נוספים מוצגים במאמר המקורי.

לְפַצֵל דוגמאות
'train' 99,442
  • מבנה תכונה :
FeaturesDict({
   
'begin': int32,
   
'challenging': bool,
   
'continuation': FeaturesDict({
       
'flirtation': float32,
       
'identity_attack': float32,
       
'insult': float32,
       
'profanity': float32,
       
'severe_toxicity': float32,
       
'sexually_explicit': float32,
       
'text': Text(shape=(), dtype=string),
       
'threat': float32,
       
'toxicity': float32,
   
}),
   
'end': int32,
   
'filename': Text(shape=(), dtype=string),
   
'prompt': FeaturesDict({
       
'flirtation': float32,
       
'identity_attack': float32,
       
'insult': float32,
       
'profanity': float32,
       
'severe_toxicity': float32,
       
'sexually_explicit': float32,
       
'text': Text(shape=(), dtype=string),
       
'threat': float32,
       
'toxicity': float32,
   
}),
})
  • תיעוד תכונה :
תכונה מעמד צוּרָה Dtype תיאור
FeaturesDict
התחל מוֹתֵחַ int32
מאתגר מוֹתֵחַ bool
הֶמְשֵׁך FeaturesDict
המשך/פלירטוט מוֹתֵחַ לצוף32
המשך/התקפת_זהות מוֹתֵחַ לצוף32
המשך/עלבון מוֹתֵחַ לצוף32
המשך / ניבולי פה מוֹתֵחַ לצוף32
המשך/רעילות_קשה מוֹתֵחַ לצוף32
המשך/מפורש_מינית מוֹתֵחַ לצוף32
המשך/טקסט טֶקסט חוּט
המשך/איום מוֹתֵחַ לצוף32
המשך/רעילות מוֹתֵחַ לצוף32
סוֹף מוֹתֵחַ int32
שם קובץ טֶקסט חוּט
מיידי FeaturesDict
הנחיה/פלירטוט מוֹתֵחַ לצוף32
prompt/identity_attack מוֹתֵחַ לצוף32
הנחיה/עלבון מוֹתֵחַ לצוף32
הנחיה / ניבול פה מוֹתֵחַ לצוף32
רעילות מיידית/חמורה מוֹתֵחַ לצוף32
הנחה/מפורש_מינית מוֹתֵחַ לצוף32
הנחיה/טקסט טֶקסט חוּט
הנחיה/איום מוֹתֵחַ לצוף32
מידה/רעילות מוֹתֵחַ לצוף32
  • ציטוט :
@article{gehman2020realtoxicityprompts,
  title
={Realtoxicityprompts: Evaluating neural toxic degeneration in language models},
  author
={Gehman, Samuel and Gururangan, Suchin and Sap, Maarten and Choi, Yejin and Smith, Noah A},
  journal
={arXiv preprint arXiv:2009.11462},
  year
={2020}
}