stanford_robocook_converted_externally_to_rlds

  • תיאור :

פרנקה מכינה כופתאות בכלים שונים

לְפַצֵל דוגמאות
'train' 2,460
  • מבנה תכונה :
FeaturesDict({
    'episode_metadata': FeaturesDict({
        'extrinsics_1': Tensor(shape=(4, 4), dtype=float32, description=Camera 1 Extrinsic Matrix.),
        'extrinsics_2': Tensor(shape=(4, 4), dtype=float32, description=Camera 2 Extrinsic Matrix.),
        'extrinsics_3': Tensor(shape=(4, 4), dtype=float32, description=Camera 3 Extrinsic Matrix.),
        'extrinsics_4': Tensor(shape=(4, 4), dtype=float32, description=Camera 4 Extrinsic Matrix.),
        'file_path': Text(shape=(), dtype=string),
    }),
    'steps': Dataset({
        'action': Tensor(shape=(7,), dtype=float32, description=Robot action, consists of [3x robot end-effector velocities, 3x robot end-effector angular velocities, 1x gripper velocity].),
        'discount': Scalar(shape=(), dtype=float32, description=Discount if provided, default to 1.),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'language_embedding': Tensor(shape=(512,), dtype=float32, description=Kona language embedding. See https://tfhub.dev/google/universal-sentence-encoder-large/5),
        'language_instruction': Text(shape=(), dtype=string),
        'observation': FeaturesDict({
            'depth_1': Tensor(shape=(256, 256), dtype=float32, description=Camera 1 Depth observation.),
            'depth_2': Tensor(shape=(256, 256), dtype=float32, description=Camera 2 Depth observation.),
            'depth_3': Tensor(shape=(256, 256), dtype=float32, description=Camera 3 Depth observation.),
            'depth_4': Tensor(shape=(256, 256), dtype=float32, description=Camera 4 Depth observation.),
            'image_1': Image(shape=(256, 256, 3), dtype=uint8, description=Camera 1 RGB observation.),
            'image_2': Image(shape=(256, 256, 3), dtype=uint8, description=Camera 2 RGB observation.),
            'image_3': Image(shape=(256, 256, 3), dtype=uint8, description=Camera 3 RGB observation.),
            'image_4': Image(shape=(256, 256, 3), dtype=uint8, description=Camera 4 RGB observation.),
            'state': Tensor(shape=(7,), dtype=float32, description=Robot state, consists of [3x robot end-effector position, 3x robot end-effector euler angles, 1x gripper position].),
        }),
        'reward': Scalar(shape=(), dtype=float32, description=Reward if provided, 1 on final step for demos.),
    }),
})
  • תיעוד תכונה :
תכונה מַחלָקָה צוּרָה Dtype תֵאוּר
FeaturesDict
episode_metadata FeaturesDict
episode_metadata/extrinsics_1 מוֹתֵחַ (4, 4) לצוף32 מצלמה 1 מטריצה ​​חיצונית.
episode_metadata/extrinsics_2 מוֹתֵחַ (4, 4) לצוף32 מצלמה 2 מטריצה ​​חיצונית.
episode_metadata/extrinsics_3 מוֹתֵחַ (4, 4) לצוף32 מצלמה 3 מטריצה ​​חיצונית.
episode_metadata/extrinsics_4 מוֹתֵחַ (4, 4) לצוף32 מצלמה 4 מטריצה ​​חיצונית.
episode_metadata/file_path טֶקסט חוּט נתיב לקובץ הנתונים המקורי.
צעדים מערך נתונים
צעדים/פעולה מוֹתֵחַ (7,) לצוף32 פעולת רובוט, מורכבת מ[3x מהירויות קצה של רובוט, 3x מהירויות זוויתיות של רובוט קצה, 1x מהירות תפסן].
צעדים/הנחה סקלר לצוף32 הנחה אם ניתנת, ברירת המחדל היא 1.
צעדים/הוא_ראשון מוֹתֵחַ bool
צעדים/הוא_אחרון מוֹתֵחַ bool
steps/is_terminal מוֹתֵחַ bool
שלבים/הטבעת_שפה מוֹתֵחַ (512,) לצוף32 הטבעת שפת Kona. ראה https://tfhub.dev/google/universal-sentence-encoder-large/5
שלבים/הוראת_שפה טֶקסט חוּט הוראת שפה.
צעדים/תצפית FeaturesDict
צעדים/תצפית/עומק_1 מוֹתֵחַ (256, 256) לצוף32 מצלמה 1 תצפית עומק.
צעדים/תצפית/עומק_2 מוֹתֵחַ (256, 256) לצוף32 מצלמה 2 תצפית עומק.
צעדים/תצפית/עומק_3 מוֹתֵחַ (256, 256) לצוף32 מצלמה 3 תצפית עומק.
צעדים/תצפית/עומק_4 מוֹתֵחַ (256, 256) לצוף32 מצלמה 4 תצפית עומק.
צעדים/תצפית/תמונה_1 תְמוּנָה (256, 256, 3) uint8 מצלמה 1 תצפית RGB.
צעדים/תצפית/תמונה_2 תְמוּנָה (256, 256, 3) uint8 מצלמה 2 תצפית RGB.
צעדים/תצפית/תמונה_3 תְמוּנָה (256, 256, 3) uint8 מצלמה 3 תצפית RGB.
צעדים/תצפית/תמונה_4 תְמוּנָה (256, 256, 3) uint8 תצפית מצלמה 4 RGB.
צעדים/תצפית/מצב מוֹתֵחַ (7,) לצוף32 מצב רובוט, מורכב מ[3x מיקום קצה רובוט, 3x רובוט קצה זוויות euler, 1x מיקום תפס].
צעדים/פרס סקלר לצוף32 תגמול אם מסופק, 1 בשלב האחרון להדגמות.
@article{shi2023robocook,
  title={RoboCook: Long-Horizon Elasto-Plastic Object Manipulation with Diverse Tools},
  author={Shi, Haochen and Xu, Huazhe and Clarke, Samuel and Li, Yunzhu and Wu, Jiajun},
  journal={arXiv preprint arXiv:2306.14447},
  year={2023}
}