vima_converted_externally_to_rlds

  • বর্ণনা :

মাল্টিমডাল প্রম্পট, 600K+ ট্র্যাজেক্টোরিজ সহ পদ্ধতিগতভাবে তৈরি করা ট্যাবলেটপ কাজগুলি সম্পাদন করে একটি একক রোবট হাতের সিম ডেটাসেট

বিভক্ত উদাহরণ
  • বৈশিষ্ট্য গঠন :
FeaturesDict({
    'episode_metadata': FeaturesDict({
        'action_bounds': FeaturesDict({
            'high': Tensor(shape=(3,), dtype=float32),
            'low': Tensor(shape=(3,), dtype=float32),
        }),
        'end-effector type': string,
        'failure': Scalar(shape=(), dtype=bool),
        'file_path': string,
        'n_objects': Scalar(shape=(), dtype=int64),
        'num_steps': Scalar(shape=(), dtype=int64),
        'robot_components_seg_ids': Sequence(Scalar(shape=(), dtype=int64)),
        'seed': Scalar(shape=(), dtype=int64),
        'success': Scalar(shape=(), dtype=bool),
        'task': string,
    }),
    'steps': Dataset({
        'action': FeaturesDict({
            'pose0_position': Tensor(shape=(3,), dtype=float32),
            'pose0_rotation': Tensor(shape=(4,), dtype=float32),
            'pose1_position': Tensor(shape=(3,), dtype=float32),
            'pose1_rotation': Tensor(shape=(4,), dtype=float32),
        }),
        'discount': Scalar(shape=(), dtype=float32),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'multimodal_instruction': string,
        'multimodal_instruction_assets': FeaturesDict({
            'asset_type': Sequence(string),
            'frontal_image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
            'frontal_segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
            'image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
            'key_name': Sequence(string),
            'segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
            'segmentation_obj_info': Sequence({
                'obj_name': Sequence(string),
                'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
                'texture_name': Sequence(string),
            }),
        }),
        'observation': FeaturesDict({
            'ee': int64,
            'frontal_image': Tensor(shape=(128, 256, 3), dtype=uint8),
            'frontal_segmentation': Tensor(shape=(128, 256), dtype=uint8),
            'image': Tensor(shape=(128, 256, 3), dtype=uint8),
            'segmentation': Tensor(shape=(128, 256), dtype=uint8),
            'segmentation_obj_info': FeaturesDict({
                'obj_name': Sequence(string),
                'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
                'texture_name': Sequence(string),
            }),
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
  • বৈশিষ্ট্য ডকুমেন্টেশন :
বৈশিষ্ট্য ক্লাস আকৃতি ডিটাইপ বর্ণনা
ফিচারসডিক্ট
episode_metadata ফিচারসডিক্ট
episode_metadata/action_bounds ফিচারসডিক্ট
episode_metadata/action_bounds/high টেনসর (৩,) float32
episode_metadata/action_bounds/low টেনসর (৩,) float32
episode_metadata/end-efector type টেনসর স্ট্রিং
episode_metadata/failure স্কেলার bool
episode_metadata/file_path টেনসর স্ট্রিং
episode_metadata/n_objects স্কেলার int64
episode_metadata/num_steps স্কেলার int64
episode_metadata/robot_components_seg_ids ক্রম (স্ক্যালার) (কোনটিই নয়,) int64
পর্ব_মেটাডেটা/বীজ স্কেলার int64
episode_metadata/success স্কেলার bool
পর্ব_মেটাডেটা/টাস্ক টেনসর স্ট্রিং
পদক্ষেপ ডেটাসেট
পদক্ষেপ/ক্রিয়া ফিচারসডিক্ট
steps/action/pose0_position টেনসর (৩,) float32
steps/action/pose0_rotation টেনসর (৪,) float32
steps/action/pose1_position টেনসর (৩,) float32
steps/action/pose1_rotation টেনসর (৪,) float32
পদক্ষেপ/ছাড় স্কেলার float32
steps/is_first টেনসর bool
ধাপ/শেষ_শেষ টেনসর bool
steps/is_terminal টেনসর bool
পদক্ষেপ/মাল্টিমোডাল_নির্দেশ টেনসর স্ট্রিং
পদক্ষেপ/মাল্টিমোডাল_নির্দেশনা_সম্পদ ফিচারসডিক্ট
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/অ্যাসেট_টাইপ ক্রম (টেনসর) (কোনটিই নয়,) স্ট্রিং
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/ফ্রন্টাল_ছবি ক্রম (টেনসর) (কোনটিই নয়, 128, 256, 3) uint8
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/ফ্রন্টাল_সেগমেন্টেশন ক্রম (টেনসর) (কোনটিই নয়, 128, 256) uint8
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_সম্পদ/চিত্র ক্রম (টেনসর) (কোনটিই নয়, 128, 256, 3) uint8
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/কী_নাম ক্রম (টেনসর) (কোনটিই নয়,) স্ট্রিং
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/সেগমেন্টেশন ক্রম (টেনসর) (কোনটিই নয়, 128, 256) uint8
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/সেগমেন্টেশন_ওবজে_ইনফো ক্রম
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/সেগমেন্টেশন_ওবজে_ইনফো/obj_name ক্রম (টেনসর) (কোনটিই নয়,) স্ট্রিং
steps/multimodal_instruction_assets/segmentation_obj_info/segm_id ক্রম (স্ক্যালার) (কোনটিই নয়,) int64
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/সেগমেন্টেশন_ওবজে_ইনফো/টেক্সচার_নাম ক্রম (টেনসর) (কোনটিই নয়,) স্ট্রিং
পদক্ষেপ/পর্যবেক্ষণ ফিচারসডিক্ট
পদক্ষেপ/পর্যবেক্ষণ/ই টেনসর int64
পদক্ষেপ/পর্যবেক্ষণ/ফ্রন্টাল_ইমেজ টেনসর (128, 256, 3) uint8
পদক্ষেপ/পর্যবেক্ষণ/ফ্রন্টাল_সেগমেন্টেশন টেনসর (128, 256) uint8
পদক্ষেপ/পর্যবেক্ষণ/চিত্র টেনসর (128, 256, 3) uint8
পদক্ষেপ/পর্যবেক্ষণ/বিভাগ টেনসর (128, 256) uint8
পদক্ষেপ/পর্যবেক্ষণ/বিভাজন_obj_info ফিচারসডিক্ট
পদক্ষেপ/অবজারভেশন/সেগমেন্টেশন_obj_info/obj_name ক্রম (টেনসর) (কোনটিই নয়,) স্ট্রিং
পদক্ষেপ/অবজারভেশন/সেগমেন্টেশন_obj_info/segm_id ক্রম (স্ক্যালার) (কোনটিই নয়,) int64
পদক্ষেপ/অবজারভেশন/সেগমেন্টেশন_obj_info/টেক্সচার_নাম ক্রম (টেনসর) (কোনটিই নয়,) স্ট্রিং
পদক্ষেপ/পুরস্কার স্কেলার float32

  • তত্ত্বাবধান করা কী (দেখুন as_supervised doc ): None

  • চিত্র ( tfds.show_examples ): সমর্থিত নয়।

  • উদাহরণ ( tfds.as_dataframe ): অনুপস্থিত।

  • উদ্ধৃতি :

@inproceedings{jiang2023vima,  title     = {VIMA: General Robot Manipulation with Multimodal Prompts},  author    = {Yunfan Jiang and Agrim Gupta and Zichen Zhang and Guanzhi Wang and Yongqiang Dou and Yanjun Chen and Li Fei-Fei and Anima Anandkumar and Yuke Zhu and Linxi Fan}, booktitle = {Fortieth International Conference on Machine Learning},  year      = {2023}. }