vima_converted_externally_to_rlds

• תיאור :

מערך נתונים של SIM של זרוע רובוט יחידה המבצעת משימות שולחניות שנוצרו באופן פרוצדורלי עם הנחיות מולטי-מודאליות, מסלולים של יותר מ-600K

• דף הבית : https://vimalabs.github.io/

• קוד מקור : tfds.robotics.rtx.VimaConvertedExternallyToRlds

• גרסאות :

  • 0.1.0 (ברירת מחדל): שחרור ראשוני.

• גודל הורדה : Unknown size

• גודל ערכת נתונים : Unknown size

• שמור אוטומטי במטמון ( תיעוד ): לא ידוע

• פיצולים :

לְפַצֵל	דוגמאות

• מבנה תכונה :

FeaturesDict({
    'episode_metadata': FeaturesDict({
        'action_bounds': FeaturesDict({
            'high': Tensor(shape=(3,), dtype=float32),
            'low': Tensor(shape=(3,), dtype=float32),
        }),
        'end-effector type': string,
        'failure': Scalar(shape=(), dtype=bool),
        'file_path': string,
        'n_objects': Scalar(shape=(), dtype=int64),
        'num_steps': Scalar(shape=(), dtype=int64),
        'robot_components_seg_ids': Sequence(Scalar(shape=(), dtype=int64)),
        'seed': Scalar(shape=(), dtype=int64),
        'success': Scalar(shape=(), dtype=bool),
        'task': string,
    }),
    'steps': Dataset({
        'action': FeaturesDict({
            'pose0_position': Tensor(shape=(3,), dtype=float32),
            'pose0_rotation': Tensor(shape=(4,), dtype=float32),
            'pose1_position': Tensor(shape=(3,), dtype=float32),
            'pose1_rotation': Tensor(shape=(4,), dtype=float32),
        }),
        'discount': Scalar(shape=(), dtype=float32),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'multimodal_instruction': string,
        'multimodal_instruction_assets': FeaturesDict({
            'asset_type': Sequence(string),
            'frontal_image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
            'frontal_segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
            'image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
            'key_name': Sequence(string),
            'segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
            'segmentation_obj_info': Sequence({
                'obj_name': Sequence(string),
                'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
                'texture_name': Sequence(string),
            }),
        }),
        'observation': FeaturesDict({
            'ee': int64,
            'frontal_image': Tensor(shape=(128, 256, 3), dtype=uint8),
            'frontal_segmentation': Tensor(shape=(128, 256), dtype=uint8),
            'image': Tensor(shape=(128, 256, 3), dtype=uint8),
            'segmentation': Tensor(shape=(128, 256), dtype=uint8),
            'segmentation_obj_info': FeaturesDict({
                'obj_name': Sequence(string),
                'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
                'texture_name': Sequence(string),
            }),
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})

• תיעוד תכונה :

תכונה	מעמד	צוּרָה	Dtype	תיאור
	FeaturesDict
episode_metadata	FeaturesDict
episode_metadata/action_bounds	FeaturesDict
episode_metadata/action_bounds/high	מוֹתֵחַ	(3,)	לצוף32
episode_metadata/action_bounds/low	מוֹתֵחַ	(3,)	לצוף32
episode_metadata/end-effector סוג	מוֹתֵחַ		חוּט
episode_metadata/failure	סקלר		bool
episode_metadata/file_path	מוֹתֵחַ		חוּט
episode_metadata/n_objects	סקלר		int64
episode_metadata/num_steps	סקלר		int64
episode_metadata/robot_components_seg_ids	רצף (סקלארי)	(אף אחד,)	int64
episode_metadata/seed	סקלר		int64
episode_metadata/success	סקלר		bool
episode_metadata/task	מוֹתֵחַ		חוּט
צעדים	מערך נתונים
צעדים/פעולה	FeaturesDict
steps/action/pose0_position	מוֹתֵחַ	(3,)	לצוף32
steps/action/pose0_rotation	מוֹתֵחַ	(4,)	לצוף32
צעדים/פעולה/פוזיציה1_עמדה	מוֹתֵחַ	(3,)	לצוף32
steps/action/pose1_rotation	מוֹתֵחַ	(4,)	לצוף32
צעדים/הנחה	סקלר		לצוף32
צעדים/הוא_ראשון	מוֹתֵחַ		bool
צעדים/הוא_אחרון	מוֹתֵחַ		bool
steps/is_terminal	מוֹתֵחַ		bool
צעדים/הוראה_מולטימודלית	מוֹתֵחַ		חוּט
שלבים/נכסי_הוראות_מולטימודאליים	FeaturesDict
שלבים/נכסי_הוראות_מולטימודאליות/סוג_נכס	רצף (טנזור)	(אף אחד,)	חוּט
צעדים/נכסי_הוראה_מולטימודלית/תמונה_חזיתית	רצף (טנזור)	(אין, 128, 256, 3)	uint8
שלבים/נכסי_הוראות_מולטימודאליות/פילוח_פרונטלי	רצף (טנזור)	(אין, 128, 256)	uint8
שלבים/נכסי_הוראות_מולטימודאליות/תמונה	רצף (טנזור)	(אין, 128, 256, 3)	uint8
steps/multimodal_instruction_assets/key_name	רצף (טנזור)	(אף אחד,)	חוּט
שלבים/נכסי_הוראות_מולטימודאליות/פילוח	רצף (טנזור)	(אין, 128, 256)	uint8
steps/multimodal_instruction_assets/segmentation_obj_info	סדר פעולות
steps/multimodal_instruction_assets/segmentation_obj_info/obj_name	רצף (טנזור)	(אף אחד,)	חוּט
steps/multimodal_instruction_assets/segmentation_obj_info/segm_id	רצף (סקלארי)	(אף אחד,)	int64
steps/multimodal_instruction_assets/segmentation_obj_info/texture_name	רצף (טנזור)	(אף אחד,)	חוּט
צעדים/תצפית	FeaturesDict
צעדים/תצפית/אי	מוֹתֵחַ		int64
צעדים/תצפית/תמונה_חזיתית	מוֹתֵחַ	(128, 256, 3)	uint8
צעדים/תצפית/פילוח_חזיתי	מוֹתֵחַ	(128, 256)	uint8
צעדים/תצפית/תמונה	מוֹתֵחַ	(128, 256, 3)	uint8
צעדים/תצפית/פילוח	מוֹתֵחַ	(128, 256)	uint8
steps/observation/segmentation_obj_info	FeaturesDict
steps/observation/segmentation_obj_info/obj_name	רצף (טנזור)	(אף אחד,)	חוּט
steps/observation/segmentation_obj_info/segm_id	רצף (סקלארי)	(אף אחד,)	int64
steps/observation/segmentation_obj_info/texture_name	רצף (טנזור)	(אף אחד,)	חוּט
צעדים/פרס	סקלר		לצוף32

• מפתחות בפיקוח (ראה as_supervised doc ): None

• איור ( tfds.show_examples ): לא נתמך.

• דוגמאות ( tfds.as_dataframe ): חסר.

• ציטוט :

@inproceedings{jiang2023vima,  title     = {VIMA: General Robot Manipulation with Multimodal Prompts},  author    = {Yunfan Jiang and Agrim Gupta and Zichen Zhang and Guanzhi Wang and Yongqiang Dou and Yanjun Chen and Li Fei-Fei and Anima Anandkumar and Yuke Zhu and Linxi Fan}, booktitle = {Fortieth International Conference on Machine Learning},  year      = {2023}. }