vima_converted_externally_to_rlds

  • 説明：

マルチモーダル プロンプト、60 万以上の軌跡を使用して手続き的に生成された卓上タスクを実行する単一のロボット アームの SIM データセット

スプリット例
  • 機能の構造:
FeaturesDict({
    'episode_metadata': FeaturesDict({
        'action_bounds': FeaturesDict({
            'high': Tensor(shape=(3,), dtype=float32),
            'low': Tensor(shape=(3,), dtype=float32),
        }),
        'end-effector type': string,
        'failure': Scalar(shape=(), dtype=bool),
        'file_path': string,
        'n_objects': Scalar(shape=(), dtype=int64),
        'num_steps': Scalar(shape=(), dtype=int64),
        'robot_components_seg_ids': Sequence(Scalar(shape=(), dtype=int64)),
        'seed': Scalar(shape=(), dtype=int64),
        'success': Scalar(shape=(), dtype=bool),
        'task': string,
    }),
    'steps': Dataset({
        'action': FeaturesDict({
            'pose0_position': Tensor(shape=(3,), dtype=float32),
            'pose0_rotation': Tensor(shape=(4,), dtype=float32),
            'pose1_position': Tensor(shape=(3,), dtype=float32),
            'pose1_rotation': Tensor(shape=(4,), dtype=float32),
        }),
        'discount': Scalar(shape=(), dtype=float32),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'multimodal_instruction': string,
        'multimodal_instruction_assets': FeaturesDict({
            'asset_type': Sequence(string),
            'frontal_image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
            'frontal_segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
            'image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
            'key_name': Sequence(string),
            'segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
            'segmentation_obj_info': Sequence({
                'obj_name': Sequence(string),
                'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
                'texture_name': Sequence(string),
            }),
        }),
        'observation': FeaturesDict({
            'ee': int64,
            'frontal_image': Tensor(shape=(128, 256, 3), dtype=uint8),
            'frontal_segmentation': Tensor(shape=(128, 256), dtype=uint8),
            'image': Tensor(shape=(128, 256, 3), dtype=uint8),
            'segmentation': Tensor(shape=(128, 256), dtype=uint8),
            'segmentation_obj_info': FeaturesDict({
                'obj_name': Sequence(string),
                'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
                'texture_name': Sequence(string),
            }),
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
  • 機能ドキュメント:
特徴クラス形Dタイプ説明
特徴辞書
エピソード_メタデータ特徴辞書
エピソードメタデータ/アクション境界特徴辞書
エピソードメタデータ/アクション境界/高テンソル(3,) float32
エピソードメタデータ/アクション境界/低テンソル(3,) float32
エピソードメタデータ/エンドエフェクターの種類テンソル弦
エピソード_メタデータ/失敗スカラーブール
エピソードメタデータ/ファイルパステンソル弦
エピソードメタデータ/n_objectsスカラーint64
エピソードメタデータ/ステップ数スカラーint64
エピソードメタデータ/ロボットコンポーネント_seg_idsシーケンス(スカラー) （なし、） int64
エピソード_メタデータ/シードスカラーint64
エピソード_メタデータ/成功スカラーブール
エピソード_メタデータ/タスクテンソル弦
ステップデータセット
ステップ/アクション特徴辞書
ステップ/アクション/ポーズ0_位置テンソル(3,) float32
ステップ/アクション/ポーズ0_回転テンソル(4,) float32
ステップ/アクション/ポーズ1_位置テンソル(3,) float32
ステップ/アクション/ポーズ1_回転テンソル(4,) float32
歩数/割引スカラーfloat32
ステップ/is_firstテンソルブール
ステップ/is_lastテンソルブール
ステップ/is_terminalテンソルブール
ステップ/multimodal_instructionテンソル弦
ステップ/multimodal_instruction_assets特徴辞書
ステップ/multimodal_instruction_assets/asset_typeシーケンス(テンソル) （なし、）弦
ステップ/multimodal_instruction_assets/frontal_imageシーケンス(テンソル) (なし、128、256、3) uint8
ステップ/multimodal_instruction_assets/frontal_segmentationシーケンス(テンソル) (なし、128、256) uint8
ステップ/multimodal_instruction_assets/imageシーケンス(テンソル) (なし、128、256、3) uint8
ステップ/multimodal_instruction_assets/key_nameシーケンス(テンソル) （なし、）弦
ステップ/multimodal_instruction_assets/segmentationシーケンス(テンソル) (なし、128、256) uint8
ステップ/multimodal_instruction_assets/segmentation_obj_info順序
ステップ/multimodal_instruction_assets/segmentation_obj_info/obj_nameシーケンス(テンソル) （なし、）弦
ステップ/multimodal_instruction_assets/segmentation_obj_info/segm_idシーケンス(スカラー) （なし、） int64
ステップ/multimodal_instruction_assets/segmentation_obj_info/texture_nameシーケンス(テンソル) （なし、）弦
ステップ/観察特徴辞書
歩数/観察/eeテンソルint64
歩数/観察/正面画像テンソル(128, 256, 3) uint8
ステップ/観察/正面セグメンテーションテンソル(128、256) uint8
手順・観察・イメージテンソル(128, 256, 3) uint8
ステップ/観察/セグメンテーションテンソル(128、256) uint8
ステップ/観察/segmentation_obj_info特徴辞書
ステップ/観察/セグメンテーション_obj_info/obj_nameシーケンス(テンソル) （なし、）弦
ステップ/観察/segmentation_obj_info/segm_idシーケンス(スカラー) （なし、） int64
ステップ/観察/segmentation_obj_info/texture_nameシーケンス(テンソル) （なし、）弦
歩数/報酬スカラーfloat32
@inproceedings{jiang2023vima,  title     = {VIMA: General Robot Manipulation with Multimodal Prompts},  author    = {Yunfan Jiang and Agrim Gupta and Zichen Zhang and Guanzhi Wang and Yongqiang Dou and Yanjun Chen and Li Fei-Fei and Anima Anandkumar and Yuke Zhu and Linxi Fan}, booktitle = {Fortieth International Conference on Machine Learning},  year      = {2023}. }