vima_converted_externally_to_rlds

  • Opis :

Zbiór danych SIM pojedynczego ramienia robota wykonującego generowane proceduralnie zadania na stole z podpowiedziami multimodalnymi, ponad 600 000 trajektorii

Podział Przykłady
  • Struktura funkcji :
FeaturesDict({
    'episode_metadata': FeaturesDict({
        'action_bounds': FeaturesDict({
            'high': Tensor(shape=(3,), dtype=float32),
            'low': Tensor(shape=(3,), dtype=float32),
        }),
        'end-effector type': string,
        'failure': Scalar(shape=(), dtype=bool),
        'file_path': string,
        'n_objects': Scalar(shape=(), dtype=int64),
        'num_steps': Scalar(shape=(), dtype=int64),
        'robot_components_seg_ids': Sequence(Scalar(shape=(), dtype=int64)),
        'seed': Scalar(shape=(), dtype=int64),
        'success': Scalar(shape=(), dtype=bool),
        'task': string,
    }),
    'steps': Dataset({
        'action': FeaturesDict({
            'pose0_position': Tensor(shape=(3,), dtype=float32),
            'pose0_rotation': Tensor(shape=(4,), dtype=float32),
            'pose1_position': Tensor(shape=(3,), dtype=float32),
            'pose1_rotation': Tensor(shape=(4,), dtype=float32),
        }),
        'discount': Scalar(shape=(), dtype=float32),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'multimodal_instruction': string,
        'multimodal_instruction_assets': FeaturesDict({
            'asset_type': Sequence(string),
            'frontal_image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
            'frontal_segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
            'image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
            'key_name': Sequence(string),
            'segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
            'segmentation_obj_info': Sequence({
                'obj_name': Sequence(string),
                'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
                'texture_name': Sequence(string),
            }),
        }),
        'observation': FeaturesDict({
            'ee': int64,
            'frontal_image': Tensor(shape=(128, 256, 3), dtype=uint8),
            'frontal_segmentation': Tensor(shape=(128, 256), dtype=uint8),
            'image': Tensor(shape=(128, 256, 3), dtype=uint8),
            'segmentation': Tensor(shape=(128, 256), dtype=uint8),
            'segmentation_obj_info': FeaturesDict({
                'obj_name': Sequence(string),
                'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
                'texture_name': Sequence(string),
            }),
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
  • Dokumentacja funkcji :
Funkcja Klasa Kształt Typ D Opis
FunkcjeDykt
metadane_odcinka FunkcjeDykt
metadane_odcinka/ograniczenia akcji FunkcjeDykt
metadata_odcinka/akcja_ograniczona/wysoki Napinacz (3,) pływak32
metadata_odcinka/akcja_ograniczona/low Napinacz (3,) pływak32
typ_metadata_odcinka/efektora końcowego Napinacz strunowy
epizod_metadata/failure Skalarny bool
metadane_odcinka/ścieżka_pliku Napinacz strunowy
epizod_metadata/n_objects Skalarny int64
metadane_odcinka/liczba_kroków Skalarny int64
epizod_metadata/robot_components_seg_ids Sekwencja (skalarna) (Nic,) int64
epizod_metadata/seed Skalarny int64
metadane_odcinka/success Skalarny bool
metadane_odcinka/zadanie Napinacz strunowy
kroki Zbiór danych
kroki/akcja FunkcjeDykt
kroki/akcja/pozycja0_pozycji Napinacz (3,) pływak32
kroki/akcja/pozycja0_obrót Napinacz (4,) pływak32
kroki/akcja/pozycja1_pozycji Napinacz (3,) pływak32
kroki/akcja/poza1_obrót Napinacz (4,) pływak32
kroki/rabat Skalarny pływak32
kroki/jest_pierwszy Napinacz bool
kroki/jest_ostatni Napinacz bool
kroki/is_terminal Napinacz bool
kroki/instrukcja_multimodalna Napinacz strunowy
kroki/multimodalne_instrukcje_assets FunkcjeDykt
kroki/multimodalne_instrukcje_assets/asset_type Sekwencja (tensor) (Nic,) strunowy
kroki/multimodalne_instrukcje_assets/frontal_image Sekwencja (tensor) (Brak, 128, 256, 3) uint8
kroki/multimodalne_instrukcje_assets/frontal_segmentation Sekwencja (tensor) (Brak, 128, 256) uint8
kroki/multimodalne_instrukcje_assets/image Sekwencja (tensor) (Brak, 128, 256, 3) uint8
kroki/multimodalne_instrukcje_assets/nazwa_klucza Sekwencja (tensor) (Nic,) strunowy
kroki/multimodalne_instrukcje_assets/segmentacja Sekwencja (tensor) (Brak, 128, 256) uint8
kroki/multimodalne_instrukcje_assets/segmentation_obj_info Sekwencja
kroki/multimodalne_instrukcje_aktywów/segmentacja_obj_info/nazwa_obiektu Sekwencja (tensor) (Nic,) strunowy
kroki/multimodalne_instrukcje_assets/segmentation_obj_info/segm_id Sekwencja (skalarna) (Nic,) int64
kroki/multimodalne_instrukcje_aktywów/segmentacja_obj_info/nazwa_tekstury Sekwencja (tensor) (Nic,) strunowy
kroki/obserwacje FunkcjeDykt
kroki/obserwacja/ee Napinacz int64
kroki/obserwacja/obraz_frontalny Napinacz (128, 256, 3) uint8
kroki/obserwacja/segmentacja_czołowa Napinacz (128, 256) uint8
kroki/obserwacja/obraz Napinacz (128, 256, 3) uint8
kroki/obserwacja/segmentacja Napinacz (128, 256) uint8
kroki/obserwacja/segmentacja_obj_info FunkcjeDykt
kroki/obserwacja/info_obiektu_segmentacyjnego/nazwa_obiektu Sekwencja (tensor) (Nic,) strunowy
kroki/obserwacja/segmentacja_obj_info/segm_id Sekwencja (skalarna) (Nic,) int64
kroki/obserwacja/info_o_obiekt_segmentacji/nazwa_tekstury Sekwencja (tensor) (Nic,) strunowy
kroki/nagroda Skalarny pływak32
@inproceedings{jiang2023vima,  title     = {VIMA: General Robot Manipulation with Multimodal Prompts},  author    = {Yunfan Jiang and Agrim Gupta and Zichen Zhang and Guanzhi Wang and Yongqiang Dou and Yanjun Chen and Li Fei-Fei and Anima Anandkumar and Yuke Zhu and Linxi Fan}, booktitle = {Fortieth International Conference on Machine Learning},  year      = {2023}. }