d4rl_adroit_pen

  • Descripción :

D4RL es un punto de referencia de código abierto para el aprendizaje por refuerzo fuera de línea. Proporciona entornos y conjuntos de datos estandarizados para algoritmos de entrenamiento y evaluación comparativa.

Los conjuntos de datos siguen el formato RLDS para representar pasos y episodios.

@misc{fu2020d4rl,
    title
={D4RL: Datasets for Deep Data-Driven Reinforcement Learning},
    author
={Justin Fu and Aviral Kumar and Ofir Nachum and George Tucker and Sergey Levine},
    year
={2020},
    eprint
={2004.07219},
    archivePrefix
={arXiv},
    primaryClass
={cs.LG}
}

d4rl_adroit_pen/v0-human (configuración predeterminada)

Separar Ejemplos
'train' 50
  • Estructura de características :
FeaturesDict({
   
'steps': Dataset({
       
'action': Tensor(shape=(24,), dtype=float32),
       
'discount': float32,
       
'infos': FeaturesDict({
           
'qpos': Tensor(shape=(30,), dtype=float32),
           
'qvel': Tensor(shape=(30,), dtype=float32),
       
}),
       
'is_first': bool,
       
'is_last': bool,
       
'is_terminal': bool,
       
'observation': Tensor(shape=(45,), dtype=float32),
       
'reward': float32,
   
}),
})
  • Documentación de características :
Rasgo Clase Forma Tipo D Descripción
CaracterísticasDict
pasos conjunto de datos
pasos/acción Tensor (24,) flotar32
pasos/descuento Tensor flotar32
pasos/información CaracterísticasDict
pasos/información/qpos Tensor (30,) flotar32
pasos/información/qvel Tensor (30,) flotar32
pasos/es_primero Tensor bool
pasos/es_último Tensor bool
pasos/es_terminal Tensor bool
pasos/observación Tensor (45,) flotar32
pasos/recompensa Tensor flotar32

d4rl_adroit_pen/v0-clonado

Separar Ejemplos
'train' 5,023
  • Estructura de características :
FeaturesDict({
   
'steps': Dataset({
       
'action': Tensor(shape=(24,), dtype=float32),
       
'discount': float64,
       
'infos': FeaturesDict({
           
'qpos': Tensor(shape=(30,), dtype=float64),
           
'qvel': Tensor(shape=(30,), dtype=float64),
       
}),
       
'is_first': bool,
       
'is_last': bool,
       
'is_terminal': bool,
       
'observation': Tensor(shape=(45,), dtype=float64),
       
'reward': float64,
   
}),
})
  • Documentación de características :
Rasgo Clase Forma Tipo D Descripción
CaracterísticasDict
pasos conjunto de datos
pasos/acción Tensor (24,) flotar32
pasos/descuento Tensor flotar64
pasos/información CaracterísticasDict
pasos/información/qpos Tensor (30,) flotar64
pasos/información/qvel Tensor (30,) flotar64
pasos/es_primero Tensor bool
pasos/es_último Tensor bool
pasos/es_terminal Tensor bool
pasos/observación Tensor (45,) flotar64
pasos/recompensa Tensor flotar64

d4rl_adroit_pen/v0-experto

Separar Ejemplos
'train' 5,000
  • Estructura de características :
FeaturesDict({
   
'steps': Dataset({
       
'action': Tensor(shape=(24,), dtype=float32),
       
'discount': float32,
       
'infos': FeaturesDict({
           
'action_logstd': Tensor(shape=(24,), dtype=float32),
           
'action_mean': Tensor(shape=(24,), dtype=float32),
           
'qpos': Tensor(shape=(30,), dtype=float32),
           
'qvel': Tensor(shape=(30,), dtype=float32),
       
}),
       
'is_first': bool,
       
'is_last': bool,
       
'is_terminal': bool,
       
'observation': Tensor(shape=(45,), dtype=float32),
       
'reward': float32,
   
}),
})
  • Documentación de características :
Rasgo Clase Forma Tipo D Descripción
CaracterísticasDict
pasos conjunto de datos
pasos/acción Tensor (24,) flotar32
pasos/descuento Tensor flotar32
pasos/información CaracterísticasDict
pasos/información/acción_logstd Tensor (24,) flotar32
pasos/información/action_mean Tensor (24,) flotar32
pasos/información/qpos Tensor (30,) flotar32
pasos/información/qvel Tensor (30,) flotar32
pasos/es_primero Tensor bool
pasos/es_último Tensor bool
pasos/es_terminal Tensor bool
pasos/observación Tensor (45,) flotar32
pasos/recompensa Tensor flotar32

d4rl_adroit_pen/v1-humano

Separar Ejemplos
'train' 25
  • Estructura de características :
FeaturesDict({
   
'steps': Dataset({
       
'action': Tensor(shape=(24,), dtype=float32),
       
'discount': float32,
       
'infos': FeaturesDict({
           
'desired_orien': Tensor(shape=(4,), dtype=float32),
           
'qpos': Tensor(shape=(30,), dtype=float32),
           
'qvel': Tensor(shape=(30,), dtype=float32),
       
}),
       
'is_first': bool,
       
'is_last': bool,
       
'is_terminal': bool,
       
'observation': Tensor(shape=(45,), dtype=float32),
       
'reward': float32,
   
}),
})
  • Documentación de características :
Rasgo Clase Forma Tipo D Descripción
CaracterísticasDict
pasos conjunto de datos
pasos/acción Tensor (24,) flotar32
pasos/descuento Tensor flotar32
pasos/información CaracterísticasDict
pasos/información/deseado_oriente Tensor (4,) flotar32
pasos/información/qpos Tensor (30,) flotar32
pasos/información/qvel Tensor (30,) flotar32
pasos/es_primero Tensor bool
pasos/es_último Tensor bool
pasos/es_terminal Tensor bool
pasos/observación Tensor (45,) flotar32
pasos/recompensa Tensor flotar32

d4rl_adroit_pen/v1-clonado

Separar Ejemplos
'train' 3,755
  • Estructura de características :
FeaturesDict({
   
'algorithm': string,
   
'policy': FeaturesDict({
       
'fc0': FeaturesDict({
           
'bias': Tensor(shape=(256,), dtype=float32),
           
'weight': Tensor(shape=(45, 256), dtype=float32),
       
}),
       
'fc1': FeaturesDict({
           
'bias': Tensor(shape=(256,), dtype=float32),
           
'weight': Tensor(shape=(256, 256), dtype=float32),
       
}),
       
'last_fc': FeaturesDict({
           
'bias': Tensor(shape=(24,), dtype=float32),
           
'weight': Tensor(shape=(256, 24), dtype=float32),
       
}),
       
'nonlinearity': string,
       
'output_distribution': string,
   
}),
   
'steps': Dataset({
       
'action': Tensor(shape=(24,), dtype=float32),
       
'discount': float32,
       
'infos': FeaturesDict({
           
'desired_orien': Tensor(shape=(4,), dtype=float32),
           
'qpos': Tensor(shape=(30,), dtype=float32),
           
'qvel': Tensor(shape=(30,), dtype=float32),
       
}),
       
'is_first': bool,
       
'is_last': bool,
       
'is_terminal': bool,
       
'observation': Tensor(shape=(45,), dtype=float32),
       
'reward': float32,
   
}),
})
  • Documentación de características :
Rasgo Clase Forma Tipo D Descripción
CaracterísticasDict
algoritmo Tensor cuerda
política CaracterísticasDict
política/fc0 CaracterísticasDict
política/fc0/sesgo Tensor (256,) flotar32
política/fc0/peso Tensor (45, 256) flotar32
política/fc1 CaracterísticasDict
política/fc1/sesgo Tensor (256,) flotar32
política/fc1/peso Tensor (256, 256) flotar32
política/last_fc CaracterísticasDict
política/last_fc/sesgo Tensor (24,) flotar32
política/last_fc/peso Tensor (256, 24) flotar32
política/no linealidad Tensor cuerda
política/distribución_de_salida Tensor cuerda
pasos conjunto de datos
pasos/acción Tensor (24,) flotar32
pasos/descuento Tensor flotar32
pasos/información CaracterísticasDict
pasos/información/deseado_oriente Tensor (4,) flotar32
pasos/información/qpos Tensor (30,) flotar32
pasos/información/qvel Tensor (30,) flotar32
pasos/es_primero Tensor bool
pasos/es_último Tensor bool
pasos/es_terminal Tensor bool
pasos/observación Tensor (45,) flotar32
pasos/recompensa Tensor flotar32

d4rl_adroit_pen/v1-experto

  • Tamaño de la descarga : 249.90 MiB

  • Tamaño del conjunto de datos : 548.47 MiB

  • Almacenamiento automático en caché ( documentación ): No

  • Divisiones :

Separar Ejemplos
'train' 5,000
  • Estructura de características :
FeaturesDict({
   
'algorithm': string,
   
'policy': FeaturesDict({
       
'fc0': FeaturesDict({
           
'bias': Tensor(shape=(64,), dtype=float32),
           
'weight': Tensor(shape=(64, 45), dtype=float32),
       
}),
       
'fc1': FeaturesDict({
           
'bias': Tensor(shape=(64,), dtype=float32),
           
'weight': Tensor(shape=(64, 64), dtype=float32),
       
}),
       
'last_fc': FeaturesDict({
           
'bias': Tensor(shape=(24,), dtype=float32),
           
'weight': Tensor(shape=(24, 64), dtype=float32),
       
}),
       
'last_fc_log_std': FeaturesDict({
           
'bias': Tensor(shape=(24,), dtype=float32),
           
'weight': Tensor(shape=(24, 64), dtype=float32),
       
}),
       
'nonlinearity': string,
       
'output_distribution': string,
   
}),
   
'steps': Dataset({
       
'action': Tensor(shape=(24,), dtype=float32),
       
'discount': float32,
       
'infos': FeaturesDict({
           
'action_log_std': Tensor(shape=(24,), dtype=float32),
           
'action_mean': Tensor(shape=(24,), dtype=float32),
           
'desired_orien': Tensor(shape=(4,), dtype=float32),
           
'qpos': Tensor(shape=(30,), dtype=float32),
           
'qvel': Tensor(shape=(30,), dtype=float32),
       
}),
       
'is_first': bool,
       
'is_last': bool,
       
'is_terminal': bool,
       
'observation': Tensor(shape=(45,), dtype=float32),
       
'reward': float32,
   
}),
})
  • Documentación de características :
Rasgo Clase Forma Tipo D Descripción
CaracterísticasDict
algoritmo Tensor cuerda
política CaracterísticasDict
política/fc0 CaracterísticasDict
política/fc0/sesgo Tensor (64,) flotar32
política/fc0/peso Tensor (64, 45) flotar32
política/fc1 CaracterísticasDict
política/fc1/sesgo Tensor (64,) flotar32
política/fc1/peso Tensor (64, 64) flotar32
política/last_fc CaracterísticasDict
política/last_fc/sesgo Tensor (24,) flotar32
política/last_fc/peso Tensor (24, 64) flotar32
política/last_fc_log_std CaracterísticasDict
política/last_fc_log_std/sesgo Tensor (24,) flotar32
política/last_fc_log_std/peso Tensor (24, 64) flotar32
política/no linealidad Tensor cuerda
política/distribución_de_salida Tensor cuerda
pasos conjunto de datos
pasos/acción Tensor (24,) flotar32
pasos/descuento Tensor flotar32
pasos/información CaracterísticasDict
pasos/infos/action_log_std Tensor (24,) flotar32
pasos/información/action_mean Tensor (24,) flotar32
pasos/información/deseado_oriente Tensor (4,) flotar32
pasos/información/qpos Tensor (30,) flotar32
pasos/información/qvel Tensor (30,) flotar32
pasos/es_primero Tensor bool
pasos/es_último Tensor bool
pasos/es_terminal Tensor bool
pasos/observación Tensor (45,) flotar32
pasos/recompensa Tensor flotar32