vima_converted_externally_to_rlds

  • شرح :

مجموعه داده سیم‌کارت یک بازوی ربات تکی که وظایف روی میز تولید شده رویه‌ای را با اعلان‌های چندوجهی، 600K+ مسیر انجام می‌دهد.

شکاف مثال ها
  • ساختار ویژگی :
FeaturesDict({
    'episode_metadata': FeaturesDict({
        'action_bounds': FeaturesDict({
            'high': Tensor(shape=(3,), dtype=float32),
            'low': Tensor(shape=(3,), dtype=float32),
        }),
        'end-effector type': string,
        'failure': Scalar(shape=(), dtype=bool),
        'file_path': string,
        'n_objects': Scalar(shape=(), dtype=int64),
        'num_steps': Scalar(shape=(), dtype=int64),
        'robot_components_seg_ids': Sequence(Scalar(shape=(), dtype=int64)),
        'seed': Scalar(shape=(), dtype=int64),
        'success': Scalar(shape=(), dtype=bool),
        'task': string,
    }),
    'steps': Dataset({
        'action': FeaturesDict({
            'pose0_position': Tensor(shape=(3,), dtype=float32),
            'pose0_rotation': Tensor(shape=(4,), dtype=float32),
            'pose1_position': Tensor(shape=(3,), dtype=float32),
            'pose1_rotation': Tensor(shape=(4,), dtype=float32),
        }),
        'discount': Scalar(shape=(), dtype=float32),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'multimodal_instruction': string,
        'multimodal_instruction_assets': FeaturesDict({
            'asset_type': Sequence(string),
            'frontal_image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
            'frontal_segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
            'image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
            'key_name': Sequence(string),
            'segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
            'segmentation_obj_info': Sequence({
                'obj_name': Sequence(string),
                'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
                'texture_name': Sequence(string),
            }),
        }),
        'observation': FeaturesDict({
            'ee': int64,
            'frontal_image': Tensor(shape=(128, 256, 3), dtype=uint8),
            'frontal_segmentation': Tensor(shape=(128, 256), dtype=uint8),
            'image': Tensor(shape=(128, 256, 3), dtype=uint8),
            'segmentation': Tensor(shape=(128, 256), dtype=uint8),
            'segmentation_obj_info': FeaturesDict({
                'obj_name': Sequence(string),
                'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
                'texture_name': Sequence(string),
            }),
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
  • مستندات ویژگی :
ویژگی کلاس شکل نوع D شرح
FeaturesDict
قسمت_متاداده FeaturesDict
episode_metadata/action_bounds FeaturesDict
episode_metadata/action_bounds/high تانسور (3،) float32
episode_metadata/action_bounds/low تانسور (3،) float32
episode_metadata/نوع end-effector تانسور رشته
قسمت_متاداده/شکست اسکالر بوول
episode_metadata/file_path تانسور رشته
episode_metadata/n_objects اسکالر int64
episode_metadata/num_steps اسکالر int64
episode_metadata/robot_components_seg_ids دنباله (اسکالر) (هیچ یک،) int64
episode_metadata/seed اسکالر int64
episode_metadata/success اسکالر بوول
episode_metadata/task تانسور رشته
مراحل مجموعه داده
مراحل/عمل FeaturesDict
Steps/Action/pose0_position تانسور (3،) float32
Steps/Action/Pose0_rotation تانسور (4،) float32
Steps/Action/Pose1_position تانسور (3،) float32
Steps/Action/Pose1_rotation تانسور (4،) float32
مراحل/تخفیف اسکالر float32
Steps/is_first تانسور بوول
Steps/is_last تانسور بوول
Steps/is_terminal تانسور بوول
Steps/Multimodal_Instruction تانسور رشته
مراحل/دارایی_دستورالعمل_چند وجهی FeaturesDict
steps/multimodal_instruction_assets/asset_type دنباله (تنسور) (هیچ یک،) رشته
steps/multimodal_instruction_assets/frontal_image دنباله (تنسور) (هیچ، 128، 256، 3) uint8
steps/multimodal_instruction_assets/frontal_segmentation دنباله (تنسور) (هیچ، 128، 256) uint8
steps/multimodal_instruction_assets/image دنباله (تنسور) (هیچ، 128، 256، 3) uint8
steps/multimodal_instruction_assets/key_name دنباله (تنسور) (هیچ یک،) رشته
مراحل/دارایی_دستورالعمل_چند وجهی/بخش بندی دنباله (تنسور) (هیچ، 128، 256) uint8
steps/multimodal_instruction_assets/segmentation_obj_info توالی
steps/multimodal_instruction_assets/segmentation_obj_info/obj_name دنباله (تنسور) (هیچ یک،) رشته
Steps/multimodal_instruction_assets/segmentation_obj_info/segm_id دنباله (اسکالر) (هیچ یک،) int64
steps/multimodal_instruction_assets/segmentation_obj_info/texture_name دنباله (تنسور) (هیچ یک،) رشته
مراحل / مشاهده FeaturesDict
مراحل / مشاهده / ee تانسور int64
مراحل/مشاهده/تصویر_frontal تانسور (128، 256، 3) uint8
مراحل/مشاهده/تقسیم بندی_پیشانی تانسور (128، 256) uint8
مراحل / مشاهده / تصویر تانسور (128، 256، 3) uint8
مراحل / مشاهده / بخش بندی تانسور (128، 256) uint8
Steps/observation/segmentation_obj_info FeaturesDict
Steps/observation/segmentation_obj_info/obj_name دنباله (تنسور) (هیچ یک،) رشته
Steps/observation/segmentation_obj_info/segm_id دنباله (اسکالر) (هیچ یک،) int64
Steps/observation/segmentation_obj_info/texture_name دنباله (تنسور) (هیچ یک،) رشته
مراحل/پاداش اسکالر float32
@inproceedings{jiang2023vima,  title     = {VIMA: General Robot Manipulation with Multimodal Prompts},  author    = {Yunfan Jiang and Agrim Gupta and Zichen Zhang and Guanzhi Wang and Yongqiang Dou and Yanjun Chen and Li Fei-Fei and Anima Anandkumar and Yuke Zhu and Linxi Fan}, booktitle = {Fortieth International Conference on Machine Learning},  year      = {2023}. }