utaustin_mutex

  • Descrição :

Diversas tarefas de manipulação doméstica

Dividir Exemplos
'train' 1.500
  • Estrutura de recursos :
FeaturesDict({
    'episode_metadata': FeaturesDict({
        'file_path': Text(shape=(), dtype=string),
    }),
    'steps': Dataset({
        'action': Tensor(shape=(7,), dtype=float32),
        'discount': Scalar(shape=(), dtype=float32),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'language_embedding': Tensor(shape=(512,), dtype=float32),
        'language_instruction': Text(shape=(), dtype=string),
        'observation': FeaturesDict({
            'image': Image(shape=(128, 128, 3), dtype=uint8),
            'state': Tensor(shape=(24,), dtype=float32),
            'wrist_image': Image(shape=(128, 128, 3), dtype=uint8),
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
  • Documentação de recursos :
Recurso Aula Forma Tipo D Descrição
RecursosDict
episódio_metadados RecursosDict
episódio_metadados/caminho_do_arquivo Texto corda Caminho para o arquivo de dados original.
passos Conjunto de dados
etapas/ação Tensor (7,) float32 Ação do robô, consiste em [6x pose delta do efetor final, 1x posição da pinça]
passos/desconto Escalar float32 Desconto, se fornecido, o padrão é 1.
passos/é_primeiro Tensor bool
passos/é_último Tensor bool
etapas/is_terminal Tensor bool
etapas/idioma_incorporação Tensor (512,) float32 Incorporação da linguagem Kona. Consulte https://tfhub.dev/google/universal-sentence-encoder-large/5
etapas/instrução_idioma Texto corda Instruções detalhadas de linguagem para cada tarefa.
etapas/observação RecursosDict
passos/observação/imagem Imagem (128, 128, 3) uint8 Observação RGB da câmera principal.
etapas/observação/estado Tensor (24,) float32 Estado do robô, consiste em [7x ângulos de articulação do robô, 1x posição da pinça, 16x matriz homogênea do efetor final do robô].
passos/observação/imagem_de_pulso Imagem (128, 128, 3) uint8 Observação RGB da câmera de pulso.
passos/recompensa Escalar float32 Recompensa, se fornecida, 1 na etapa final para demonstrações.
@inproceedings{
    shah2023mutex,
    title={ {MUTEX}: Learning Unified Policies from Multimodal Task Specifications},
    author={Rutav Shah and Roberto Mart{\'\i}n-Mart{\'\i}n and Yuke Zhu},
    booktitle={7th Annual Conference on Robot Learning},
    year={2023},
    url={https://openreview.net/forum?id=PwqiqaaEzJ}
}