- תיאור :
D4RL הוא אמת מידה בקוד פתוח ללמידת חיזוק לא מקוון. הוא מספק סביבות סטנדרטיות ומערכי נתונים עבור אלגוריתמי הדרכה ומידוד.
מערכי הנתונים פועלים לפי פורמט RLDS כדי לייצג שלבים ופרקים.
תיאור תצורה : ראה פרטים נוספים על המשימה וגרסאותיה ב- https://github.com/rail-berkeley/d4rl/wiki/Tasks#adroit
קוד מקור :
tfds.d4rl.d4rl_adroit_relocate.D4rlAdroitRelocate
גרסאות :
-
1.0.0
: שחרור ראשוני. -
1.1.0
(ברירת מחדל): נוסף is_last.
-
מפתחות בפיקוח (ראה
as_supervised
doc ):None
איור ( tfds.show_examples ): לא נתמך.
ציטוט :
@misc{fu2020d4rl,
title={D4RL: Datasets for Deep Data-Driven Reinforcement Learning},
author={Justin Fu and Aviral Kumar and Ofir Nachum and George Tucker and Sergey Levine},
year={2020},
eprint={2004.07219},
archivePrefix={arXiv},
primaryClass={cs.LG}
}
d4rl_adroit_relocate/v0-human (תצורת ברירת המחדל)
גודל הורדה :
4.87 MiB
גודל מערך נתונים :
5.48 MiB
שמור אוטומטי במטמון ( תיעוד ): כן
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'train' | 60 |
- מבנה תכונה :
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(30,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'qpos': Tensor(shape=(36,), dtype=float32),
'qvel': Tensor(shape=(36,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(39,), dtype=float32),
'reward': float32,
}),
})
- תיעוד תכונה :
תכונה | מעמד | צוּרָה | Dtype | תיאור |
---|---|---|---|---|
FeaturesDict | ||||
צעדים | מערך נתונים | |||
צעדים/פעולה | מוֹתֵחַ | (30,) | לצוף32 | |
צעדים/הנחה | מוֹתֵחַ | לצוף32 | ||
שלבים/מידע | FeaturesDict | |||
צעדים/מידע/qpos | מוֹתֵחַ | (36,) | לצוף32 | |
צעדים/מידע/qvel | מוֹתֵחַ | (36,) | לצוף32 | |
צעדים/הוא_ראשון | מוֹתֵחַ | bool | ||
צעדים/הוא_אחרון | מוֹתֵחַ | bool | ||
steps/is_terminal | מוֹתֵחַ | bool | ||
צעדים/תצפית | מוֹתֵחַ | (39,) | לצוף32 | |
צעדים/פרס | מוֹתֵחַ | לצוף32 |
- דוגמאות ( tfds.as_dataframe ):
d4rl_adroit_relocate/v0-cloned
גודל הורדה :
647.11 MiB
גודל מערך נתונים :
550.50 MiB
שמור אוטומטי במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'train' | 5,519 |
- מבנה תכונה :
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(30,), dtype=float32),
'discount': float64,
'infos': FeaturesDict({
'qpos': Tensor(shape=(36,), dtype=float64),
'qvel': Tensor(shape=(36,), dtype=float64),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(39,), dtype=float64),
'reward': float64,
}),
})
- תיעוד תכונה :
תכונה | מעמד | צוּרָה | Dtype | תיאור |
---|---|---|---|---|
FeaturesDict | ||||
צעדים | מערך נתונים | |||
צעדים/פעולה | מוֹתֵחַ | (30,) | לצוף32 | |
צעדים/הנחה | מוֹתֵחַ | לצוף64 | ||
שלבים/מידע | FeaturesDict | |||
צעדים/מידע/qpos | מוֹתֵחַ | (36,) | לצוף64 | |
צעדים/מידע/qvel | מוֹתֵחַ | (36,) | לצוף64 | |
צעדים/הוא_ראשון | מוֹתֵחַ | bool | ||
צעדים/הוא_אחרון | מוֹתֵחַ | bool | ||
steps/is_terminal | מוֹתֵחַ | bool | ||
צעדים/תצפית | מוֹתֵחַ | (39,) | לצוף64 | |
צעדים/פרס | מוֹתֵחַ | לצוף64 |
- דוגמאות ( tfds.as_dataframe ):
d4rl_adroit_relocate/v0-expert
גודל הורדה :
581.53 MiB
גודל ערכת נתונים :
778.97 MiB
שמור אוטומטי במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'train' | 5,000 |
- מבנה תכונה :
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(30,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'action_logstd': Tensor(shape=(30,), dtype=float32),
'action_mean': Tensor(shape=(30,), dtype=float32),
'qpos': Tensor(shape=(36,), dtype=float32),
'qvel': Tensor(shape=(36,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(39,), dtype=float32),
'reward': float32,
}),
})
- תיעוד תכונה :
תכונה | מעמד | צוּרָה | Dtype | תיאור |
---|---|---|---|---|
FeaturesDict | ||||
צעדים | מערך נתונים | |||
צעדים/פעולה | מוֹתֵחַ | (30,) | לצוף32 | |
צעדים/הנחה | מוֹתֵחַ | לצוף32 | ||
שלבים/מידע | FeaturesDict | |||
steps/infos/action_logstd | מוֹתֵחַ | (30,) | לצוף32 | |
steps/infos/action_mean | מוֹתֵחַ | (30,) | לצוף32 | |
צעדים/מידע/qpos | מוֹתֵחַ | (36,) | לצוף32 | |
צעדים/מידע/qvel | מוֹתֵחַ | (36,) | לצוף32 | |
צעדים/הוא_ראשון | מוֹתֵחַ | bool | ||
צעדים/הוא_אחרון | מוֹתֵחַ | bool | ||
steps/is_terminal | מוֹתֵחַ | bool | ||
צעדים/תצפית | מוֹתֵחַ | (39,) | לצוף32 | |
צעדים/פרס | מוֹתֵחַ | לצוף32 |
- דוגמאות ( tfds.as_dataframe ):
d4rl_adroit_relocate/v1-human
גודל הורדה :
5.92 MiB
גודל ערכת נתונים :
6.94 MiB
שמור אוטומטי במטמון ( תיעוד ): כן
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'train' | 25 |
- מבנה תכונה :
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(30,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'hand_qpos': Tensor(shape=(30,), dtype=float32),
'obj_pos': Tensor(shape=(3,), dtype=float32),
'palm_pos': Tensor(shape=(3,), dtype=float32),
'qpos': Tensor(shape=(36,), dtype=float32),
'qvel': Tensor(shape=(36,), dtype=float32),
'target_pos': Tensor(shape=(3,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(39,), dtype=float32),
'reward': float32,
}),
})
- תיעוד תכונה :
תכונה | מעמד | צוּרָה | Dtype | תיאור |
---|---|---|---|---|
FeaturesDict | ||||
צעדים | מערך נתונים | |||
צעדים/פעולה | מוֹתֵחַ | (30,) | לצוף32 | |
צעדים/הנחה | מוֹתֵחַ | לצוף32 | ||
שלבים/מידע | FeaturesDict | |||
steps/infos/hand_qpos | מוֹתֵחַ | (30,) | לצוף32 | |
steps/infos/obj_pos | מוֹתֵחַ | (3,) | לצוף32 | |
steps/infos/palm_pos | מוֹתֵחַ | (3,) | לצוף32 | |
צעדים/מידע/qpos | מוֹתֵחַ | (36,) | לצוף32 | |
צעדים/מידע/qvel | מוֹתֵחַ | (36,) | לצוף32 | |
steps/infos/target_pos | מוֹתֵחַ | (3,) | לצוף32 | |
צעדים/הוא_ראשון | מוֹתֵחַ | bool | ||
צעדים/הוא_אחרון | מוֹתֵחַ | bool | ||
steps/is_terminal | מוֹתֵחַ | bool | ||
צעדים/תצפית | מוֹתֵחַ | (39,) | לצוף32 | |
צעדים/פרס | מוֹתֵחַ | לצוף32 |
- דוגמאות ( tfds.as_dataframe ):
d4rl_adroit_relocate/v1-cloned
גודל הורדה :
554.39 MiB
גודל מערך נתונים :
1.86 GiB
שמור אוטומטי במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'train' | 3,758 |
- מבנה תכונה :
FeaturesDict({
'algorithm': string,
'policy': FeaturesDict({
'fc0': FeaturesDict({
'bias': Tensor(shape=(256,), dtype=float32),
'weight': Tensor(shape=(39, 256), dtype=float32),
}),
'fc1': FeaturesDict({
'bias': Tensor(shape=(256,), dtype=float32),
'weight': Tensor(shape=(256, 256), dtype=float32),
}),
'last_fc': FeaturesDict({
'bias': Tensor(shape=(30,), dtype=float32),
'weight': Tensor(shape=(256, 30), dtype=float32),
}),
'nonlinearity': string,
'output_distribution': string,
}),
'steps': Dataset({
'action': Tensor(shape=(30,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'hand_qpos': Tensor(shape=(30,), dtype=float32),
'obj_pos': Tensor(shape=(3,), dtype=float32),
'palm_pos': Tensor(shape=(3,), dtype=float32),
'qpos': Tensor(shape=(36,), dtype=float32),
'qvel': Tensor(shape=(36,), dtype=float32),
'target_pos': Tensor(shape=(3,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(39,), dtype=float32),
'reward': float32,
}),
})
- תיעוד תכונה :
תכונה | מעמד | צוּרָה | Dtype | תיאור |
---|---|---|---|---|
FeaturesDict | ||||
אַלגוֹרִיתְם | מוֹתֵחַ | חוּט | ||
מְדִינִיוּת | FeaturesDict | |||
מדיניות/fc0 | FeaturesDict | |||
policy/fc0/bias | מוֹתֵחַ | (256,) | לצוף32 | |
policy/fc0/weight | מוֹתֵחַ | (39, 256) | לצוף32 | |
מדיניות/fc1 | FeaturesDict | |||
policy/fc1/bias | מוֹתֵחַ | (256,) | לצוף32 | |
policy/fc1/weight | מוֹתֵחַ | (256, 256) | לצוף32 | |
policy/last_fc | FeaturesDict | |||
policy/last_fc/bias | מוֹתֵחַ | (30,) | לצוף32 | |
policy/last_fc/weight | מוֹתֵחַ | (256, 30) | לצוף32 | |
מדיניות/אי-לינאריות | מוֹתֵחַ | חוּט | ||
מדיניות/הפצה_תפוקה | מוֹתֵחַ | חוּט | ||
צעדים | מערך נתונים | |||
צעדים/פעולה | מוֹתֵחַ | (30,) | לצוף32 | |
צעדים/הנחה | מוֹתֵחַ | לצוף32 | ||
שלבים/מידע | FeaturesDict | |||
steps/infos/hand_qpos | מוֹתֵחַ | (30,) | לצוף32 | |
steps/infos/obj_pos | מוֹתֵחַ | (3,) | לצוף32 | |
steps/infos/palm_pos | מוֹתֵחַ | (3,) | לצוף32 | |
צעדים/מידע/qpos | מוֹתֵחַ | (36,) | לצוף32 | |
צעדים/מידע/qvel | מוֹתֵחַ | (36,) | לצוף32 | |
steps/infos/target_pos | מוֹתֵחַ | (3,) | לצוף32 | |
צעדים/הוא_ראשון | מוֹתֵחַ | bool | ||
צעדים/הוא_אחרון | מוֹתֵחַ | bool | ||
steps/is_terminal | מוֹתֵחַ | bool | ||
צעדים/תצפית | מוֹתֵחַ | (39,) | לצוף32 | |
צעדים/פרס | מוֹתֵחַ | לצוף32 |
- דוגמאות ( tfds.as_dataframe ):
d4rl_adroit_relocate/v1-expert
גודל הורדה :
682.47 MiB
גודל ערכת נתונים :
1012.49 MiB
שמור אוטומטי במטמון ( תיעוד ): לא
פיצולים :
לְפַצֵל | דוגמאות |
---|---|
'train' | 5,000 |
- מבנה תכונה :
FeaturesDict({
'algorithm': string,
'policy': FeaturesDict({
'fc0': FeaturesDict({
'bias': Tensor(shape=(32,), dtype=float32),
'weight': Tensor(shape=(32, 39), dtype=float32),
}),
'fc1': FeaturesDict({
'bias': Tensor(shape=(32,), dtype=float32),
'weight': Tensor(shape=(32, 32), dtype=float32),
}),
'last_fc': FeaturesDict({
'bias': Tensor(shape=(30,), dtype=float32),
'weight': Tensor(shape=(30, 32), dtype=float32),
}),
'last_fc_log_std': FeaturesDict({
'bias': Tensor(shape=(30,), dtype=float32),
'weight': Tensor(shape=(30, 32), dtype=float32),
}),
'nonlinearity': string,
'output_distribution': string,
}),
'steps': Dataset({
'action': Tensor(shape=(30,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'action_log_std': Tensor(shape=(30,), dtype=float32),
'action_mean': Tensor(shape=(30,), dtype=float32),
'hand_qpos': Tensor(shape=(30,), dtype=float32),
'obj_pos': Tensor(shape=(3,), dtype=float32),
'palm_pos': Tensor(shape=(3,), dtype=float32),
'qpos': Tensor(shape=(36,), dtype=float32),
'qvel': Tensor(shape=(36,), dtype=float32),
'target_pos': Tensor(shape=(3,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(39,), dtype=float32),
'reward': float32,
}),
})
- תיעוד תכונה :
תכונה | מעמד | צוּרָה | Dtype | תיאור |
---|---|---|---|---|
FeaturesDict | ||||
אַלגוֹרִיתְם | מוֹתֵחַ | חוּט | ||
מְדִינִיוּת | FeaturesDict | |||
מדיניות/fc0 | FeaturesDict | |||
policy/fc0/bias | מוֹתֵחַ | (32,) | לצוף32 | |
policy/fc0/weight | מוֹתֵחַ | (32, 39) | לצוף32 | |
מדיניות/fc1 | FeaturesDict | |||
policy/fc1/bias | מוֹתֵחַ | (32,) | לצוף32 | |
policy/fc1/weight | מוֹתֵחַ | (32, 32) | לצוף32 | |
policy/last_fc | FeaturesDict | |||
policy/last_fc/bias | מוֹתֵחַ | (30,) | לצוף32 | |
policy/last_fc/weight | מוֹתֵחַ | (30, 32) | לצוף32 | |
policy/last_fc_log_std | FeaturesDict | |||
policy/last_fc_log_std/bias | מוֹתֵחַ | (30,) | לצוף32 | |
policy/last_fc_log_std/weight | מוֹתֵחַ | (30, 32) | לצוף32 | |
מדיניות/אי-לינאריות | מוֹתֵחַ | חוּט | ||
מדיניות/הפצה_תפוקה | מוֹתֵחַ | חוּט | ||
צעדים | מערך נתונים | |||
צעדים/פעולה | מוֹתֵחַ | (30,) | לצוף32 | |
צעדים/הנחה | מוֹתֵחַ | לצוף32 | ||
שלבים/מידע | FeaturesDict | |||
steps/infos/action_log_std | מוֹתֵחַ | (30,) | לצוף32 | |
steps/infos/action_mean | מוֹתֵחַ | (30,) | לצוף32 | |
steps/infos/hand_qpos | מוֹתֵחַ | (30,) | לצוף32 | |
steps/infos/obj_pos | מוֹתֵחַ | (3,) | לצוף32 | |
steps/infos/palm_pos | מוֹתֵחַ | (3,) | לצוף32 | |
צעדים/מידע/qpos | מוֹתֵחַ | (36,) | לצוף32 | |
צעדים/מידע/qvel | מוֹתֵחַ | (36,) | לצוף32 | |
steps/infos/target_pos | מוֹתֵחַ | (3,) | לצוף32 | |
צעדים/הוא_ראשון | מוֹתֵחַ | bool | ||
צעדים/הוא_אחרון | מוֹתֵחַ | bool | ||
steps/is_terminal | מוֹתֵחַ | bool | ||
צעדים/תצפית | מוֹתֵחַ | (39,) | לצוף32 | |
צעדים/פרס | מוֹתֵחַ | לצוף32 |
- דוגמאות ( tfds.as_dataframe ):