mimic_play

  • Description :

Ensemble de données réel de 14 tâches de manipulation à long horizon. Un mélange de données sur le jeu humain et de données sur un seul bras de robot effectuant les mêmes tâches.

Diviser Exemples
'train' 378
  • Structure des fonctionnalités :
FeaturesDict({
   
'episode_metadata': FeaturesDict({
       
'file_path': string,
   
}),
   
'steps': Dataset({
       
'action': Tensor(shape=(7,), dtype=float32),
       
'discount': Scalar(shape=(), dtype=float32),
       
'is_first': bool,
       
'is_last': bool,
       
'is_terminal': bool,
       
'language_embedding': Tensor(shape=(512,), dtype=float32),
       
'language_instruction': string,
       
'observation': FeaturesDict({
           
'image': FeaturesDict({
               
'front_image_1': Image(shape=(120, 120, 3), dtype=uint8),
               
'front_image_2': Image(shape=(120, 120, 3), dtype=uint8),
           
}),
           
'state': FeaturesDict({
               
'ee_pose': Tensor(shape=(7,), dtype=float32),
               
'gripper_position': float32,
               
'joint_positions': Tensor(shape=(7,), dtype=float32),
               
'joint_velocities': Tensor(shape=(7,), dtype=float32),
           
}),
           
'wrist_image': FeaturesDict({
               
'wrist_image': Image(shape=(120, 120, 3), dtype=uint8),
           
}),
       
}),
       
'reward': Scalar(shape=(), dtype=float32),
   
}),
})
  • Documentation des fonctionnalités :
Fonctionnalité Classe Forme Type D Description
FonctionnalitésDict
épisode_métadonnées FonctionnalitésDict
épisode_metadata/file_path Tenseur chaîne
pas Base de données
étapes/actions Tenseur (7,) flotteur32
étapes/remise Scalaire flotteur32
étapes/is_first Tenseur bouffon
étapes/est_dernier Tenseur bouffon
étapes/is_terminal Tenseur bouffon
étapes/langue_embedding Tenseur (512,) flotteur32
étapes/instruction_langue Tenseur chaîne
étapes/observation FonctionnalitésDict
étapes/observation/image FonctionnalitésDict
étapes/observation/image/front_image_1 Image (120, 120, 3) uint8
étapes/observation/image/front_image_2 Image (120, 120, 3) uint8
étapes/observation/état FonctionnalitésDict
étapes/observation/état/ee_pose Tenseur (7,) flotteur32
étapes/observation/état/gripper_position Tenseur flotteur32
étapes/observation/état/joint_positions Tenseur (7,) flotteur32
étapes/observation/état/joint_velocities Tenseur (7,) flotteur32
étapes/observation/image_poignet FonctionnalitésDict
étapes/observation/wrist_image/wrist_image Image (120, 120, 3) uint8
étapes/récompense Scalaire flotteur32
  • Citation :
@article{wang2023mimicplay,title={Mimicplay: Long-horizon imitation learning by watching human play},author={Wang, Chen and Fan, Linxi and Sun, Jiankai and Zhang, Ruohan and Fei-Fei, Li and Xu, Danfei and Zhu, Yuke and Anandkumar, Anima},journal={arXiv preprint arXiv:2302.12422},year={2023} }