cmu_play_fusion

  • Descrição :

O robô brinca com 3 cenas complexas: uma grelha com vários objetos de cozinha como torradeira, panela, etc. Tem que pôr mesa, mexer pratos, copos, utensílios. E tem que colocar a louça na pia, lava-louças, copos de mão etc.

Dividir Exemplos
'train' 576
  • Estrutura de recursos :
FeaturesDict({
    'episode_metadata': FeaturesDict({
        'file_path': Text(shape=(), dtype=string),
    }),
    'steps': Dataset({
        'action': Tensor(shape=(9,), dtype=float32),
        'discount': Scalar(shape=(), dtype=float32),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'language_embedding': Tensor(shape=(512,), dtype=float32),
        'language_instruction': Text(shape=(), dtype=string),
        'observation': FeaturesDict({
            'image': Image(shape=(128, 128, 3), dtype=uint8),
            'state': Tensor(shape=(8,), dtype=float32),
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
  • Documentação de recursos :
Recurso Aula Forma Tipo D Descrição
RecursosDict
episódio_metadados RecursosDict
episódio_metadados/caminho_do_arquivo Texto corda Caminho para o arquivo de dados original.
passos Conjunto de dados
etapas/ação Tensor (9,) float32 A ação do robô consiste em [7x delta eef (pos + quat), 1x abertura/fechamento da pinça (binário), 1x episódio de término].
passos/desconto Escalar float32 Desconto, se fornecido, o padrão é 1.
passos/é_primeiro Tensor bool
passos/é_último Tensor bool
etapas/is_terminal Tensor bool
etapas/idioma_incorporação Tensor (512,) float32 Incorporação da linguagem Kona. Consulte https://tfhub.dev/google/universal-sentence-encoder-large/5
etapas/instrução_idioma Texto corda Instrução de Idiomas.
etapas/observação RecursosDict
passos/observação/imagem Imagem (128, 128, 3) uint8 Observação RGB da câmera principal.
etapas/observação/estado Tensor (8,) float32 Estado do robô, consiste em [7x ângulos de articulação do robô, 1x posição da garra.
passos/recompensa Escalar float32 Recompensa, se fornecida, 1 na etapa final para demonstrações.
  • Citação :
@inproceedings{chen2023playfusion,
  title={PlayFusion: Skill Acquisition via Diffusion from Language-Annotated Play},
  author={Chen, Lili and Bahl, Shikhar and Pathak, Deepak},
  booktitle={CoRL},
  year={2023}
}