фмб

  • Описание :

Наш набор данных состоит из объектов разного внешнего вида и геометрии. Чтобы успешно собрать колышки на незакрепленной доске в случайной сцене, требуются многоэтапные и мультимодальные навыки мелкой моторики. Мы собрали в общей сложности 22 550 траекторий для двух разных задач на манипуляторе Franka Panda. Мы записываем траектории с двух общих изображений и двух изображений с запястья. Каждое представление содержит как RGB, так и карту глубины.

Расколоть Примеры
'train' 1804
  • Структура функции :
FeaturesDict({
    'episode_metadata': FeaturesDict({
        'episode_language_embedding': Tensor(shape=(512,), dtype=float32),
        'episode_language_instruction': string,
        'episode_task': string,
        'file_path': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(7,), dtype=float32),
        'discount': Scalar(shape=(), dtype=float32),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'language_embedding': Tensor(shape=(512,), dtype=float32),
        'language_instruction': string,
        'observation': FeaturesDict({
            'color_id': Scalar(shape=(), dtype=uint8),
            'eef_force': Tensor(shape=(3,), dtype=float32),
            'eef_pose': Tensor(shape=(7,), dtype=float32),
            'eef_torque': Tensor(shape=(3,), dtype=float32),
            'eef_vel': Tensor(shape=(6,), dtype=float32),
            'image_side_1': Image(shape=(256, 256, 3), dtype=uint8),
            'image_side_1_depth': Tensor(shape=(256, 256), dtype=float32),
            'image_side_2': Image(shape=(256, 256, 3), dtype=uint8),
            'image_side_2_depth': Tensor(shape=(256, 256), dtype=float32),
            'image_wrist_1': Image(shape=(256, 256, 3), dtype=uint8),
            'image_wrist_1_depth': Tensor(shape=(256, 256), dtype=float32),
            'image_wrist_2': Image(shape=(256, 256, 3), dtype=uint8),
            'image_wrist_2_depth': Tensor(shape=(256, 256), dtype=float32),
            'joint_pos': Tensor(shape=(7,), dtype=float32),
            'joint_vel': Tensor(shape=(7,), dtype=float32),
            'length': string,
            'object_id': Scalar(shape=(), dtype=uint8),
            'primitive': string,
            'shape_id': Scalar(shape=(), dtype=uint8),
            'size': string,
            'state_gripper_pose': Scalar(shape=(), dtype=float32),
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
  • Функциональная документация :
Особенность Сорт Форма Дтип Описание
ВозможностиDict
эпизод_метаданные ВозможностиDict
эпизод_метаданные/episode_language_embedding Тензор (512,) float32
эпизод_метаданные/эпизод_язык_инструкция Тензор нить
эпизод_метаданные/эпизод_задача Тензор нить
метаданные_эпизода/путь_к файлу Тензор нить
шаги Набор данных
шаги/действия Тензор (7,) float32
шаги/скидка Скаляр float32
шаги/is_first Тензор логическое значение
шаги/is_last Тензор логическое значение
шаги/is_terminal Тензор логическое значение
шаги/language_embedding Тензор (512,) float32
шаги/language_instruction Тензор нить
шаги/наблюдение ВозможностиDict
шаги/наблюдение/color_id Скаляр uint8
шаги/наблюдение/eef_force Тензор (3,) float32
шаги/наблюдение/eef_pose Тензор (7,) float32
шаги/наблюдение/eef_torque Тензор (3,) float32
шаги/наблюдение/eef_vel Тензор (6,) float32
шаги/наблюдение/image_side_1 Изображение (256, 256, 3) uint8
шаги/наблюдение/image_side_1_глубина Тензор (256, 256) float32
шаги/наблюдение/image_side_2 Изображение (256, 256, 3) uint8
шаги/наблюдение/image_side_2_length Тензор (256, 256) float32
шаги/наблюдение/image_wrist_1 Изображение (256, 256, 3) uint8
шаги/наблюдение/image_wrist_1_глубина Тензор (256, 256) float32
шаги/наблюдение/image_wrist_2 Изображение (256, 256, 3) uint8
шаги/наблюдение/image_wrist_2_глубина Тензор (256, 256) float32
шаги/наблюдение/joint_pos Тензор (7,) float32
шаги/наблюдение/joint_vel Тензор (7,) float32
шаги/наблюдение/длина Тензор нить
шаги/наблюдение/object_id Скаляр uint8
шаги/наблюдение/примитив Тензор нить
шаги/наблюдение/shape_id Скаляр uint8
шаги/наблюдение/размер Тензор нить
шаги/наблюдение/state_gripper_pose Скаляр float32
шаги/награда Скаляр float32
  • Цитата :
https://doi.org/10.48550/arXiv.2401.08553