ビオラ

  • 説明：

様式化されたキッチン作業を行うフランカ ロボット

スプリット例
'test' 15
'train' 135
  • 機能の構造: 
FeaturesDict({
    'steps': Dataset({
        'action': FeaturesDict({
            'gripper_closedness_action': float32,
            'rotation_delta': Tensor(shape=(3,), dtype=float32),
            'terminate_episode': float32,
            'world_vector': Tensor(shape=(3,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': FeaturesDict({
            'agentview_rgb': Image(shape=(224, 224, 3), dtype=uint8, description=RGB captured by workspace camera),
            'ee_states': Tensor(shape=(16,), dtype=float32, description=Pose of the end effector specified as a homogenous matrix.),
            'eye_in_hand_rgb': Image(shape=(224, 224, 3), dtype=uint8, description=RGB captured by in hand camera),
            'gripper_states': Tensor(shape=(1,), dtype=float32, description=gripper_states = 0 means the gripper is fully closed. The value represents the gripper width of Franka Panda Gripper.),
            'joint_states': Tensor(shape=(7,), dtype=float32, description=joint values),
            'natural_language_embedding': Tensor(shape=(512,), dtype=float32),
            'natural_language_instruction': string,
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
  • 機能ドキュメント:
特徴クラス形Dタイプ説明
特徴辞書
ステップデータセット
ステップ/アクション特徴辞書
ステップ/アクション/gripper_closedness_actionテンソルfloat32
ステップ/アクション/回転デルタテンソル(3,) float32
ステップ/アクション/terminate_episodeテンソルfloat32
ステップ/アクション/world_vectorテンソル(3,) float32
ステップ/is_firstテンソルブール
ステップ/is_lastテンソルブール
ステップ/is_terminalテンソルブール
ステップ/観察特徴辞書
ステップ/観察/agentview_rgb画像(224, 224, 3) uint8ワークスペースのカメラでキャプチャされた RGB
ステップ/観察/ee_statesテンソル(16,) float32同次行列として指定されるエンド エフェクターのポーズ。
歩数/観察/eye_in_hand_rgb画像(224, 224, 3) uint8インハンドカメラで撮影したRGB
ステップ/観察/gripper_statesテンソル(1,) float32 gripper_states = 0 は、グリッパーが完全に閉じていることを意味します。この値は、Franka Panda グリッパーのグリッパー幅を表します。
ステップ/観察/joint_statesテンソル(7,) float32ジョイント値
ステップ/観察/natural_lang_embeddingテンソル(512,) float32
ステップ/観察/natural_ language_instructionテンソル弦
歩数/報酬スカラーfloat32
  • 引用： 
@article{zhu2022viola,
  title={VIOLA: Imitation Learning for Vision-Based Manipulation with Object Proposal Priors},
  author={Zhu, Yifeng and Joshi, Abhishek and Stone, Peter and Zhu, Yuke},
  journal={6th Annual Conference on Robot Learning (CoRL)},
  year={2022}
}